【G検定過去問風テスト】Seq2SeqとLSTMの仕組み！勾配消失を解決するCECとは

2026年8月3日 2026年8月3日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

時系列モデルやディープラーニングの構造に関する説明として、最も適切な選択肢を1つ選べ。

A）Seq2Seqは、1つのRNNネットワークのみで構成され、入力文と出力文の文字数が完全に一致するタスクにのみ使用される。
B）CEC（Constant Error Carousel）は、LSTMの内部にある仕組みであり、誤差を減衰させずに過去へ伝え続けることでRNNの勾配消失問題を解決する。
C）ELMoは、単一の順方向LSTMのみを用いており、文脈によって意味が変わる同音異義語を区別することができない。
D）fastTextは、単語をそのままの形でしか処理できないため、辞書にない未知語（OOV）に対して分散表現を生成することができない。

🔍 ここをクリックして正解を見る

正解: B）CEC（Constant Error Carousel）は、LSTMの内部にある仕組みであり、誤差を減衰させずに過去へ伝え続けることでRNNの勾配消失問題を解決する。

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

RNN（再帰型ニューラルネットワーク）は、文章が長くなると昔の情報を忘れてしまう「勾配消失問題」が起きやすい。
LSTMの内部にある「CEC（誤差カルーセル）」が、誤差を減衰させずに過去へ伝え続けることで、この弱点を克服した。

■ 初学者向け解説（例え話や背景）

文章を左から右へ順番に読み解いていく「RNN（再帰型ニューラルネットワーク）」は時系列データを扱うのに便利ですが、大きな弱点がありました。それは、「長い文章を読んでいるうちに、最初の方に書いてあった大事な情報を忘れてしまう（勾配消失問題）」というものです。人間の記憶と同じで、遠い昔の出来事はだんだんぼやけてしまいますよね。

この問題を解決するために登場したのがLSTMであり、その心臓部にあるのがCEC（Constant Error Carousel：定常エラーカルーセル）です。
イメージとしては、「遠い昔の大切な伝言を、内容が薄まらないようにリレー形式でバトンタッチしていく特殊なパイプ」のようなものです。このCECがあるおかげで、LSTMは過去の情報をしっかりと保持し続けられるようになりました。G検定では「CEC＝誤差を減衰させずに伝える仕組み」というキーワードがセットで問われやすいので、しっかり押さえておきましょう！

■ 選択肢の解説

A）（×）: Seq2Seqは「Encoder」と「Decoder」の2つのRNNで構成されており、機械翻訳などのように入力と出力の長さが異なる（一致しない）タスクを可能にするモデルです。
B）（○）: CECに関する正しい説明です。LSTMの内部で誤差を減衰させずに過去へ伝え続け、RNNの勾配消失問題を解決します。本問の正解です。
C）（×）: ELMoは「双方向LSTM」を用いており、文脈によって意味が変わる単語（同音異義語など）を正しく区別してベクトル化できます。
D）（×）: fastTextは、単語を細かい「文字のn-gram（サブワード）」に分解して学習するため、辞書にない未知語（OOV）に対しても分散表現を生成できるのが最大の強みです。