【G検定過去問風テスト】RNNの学習手法「BPTT」と勾配消失問題

2026年7月28日 2026年7月28日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

リカレントニューラルネットワーク（RNN）の学習において、時間軸に沿って誤差を逆伝播させ、過去をさかのぼりながらパラメータを調整する手法であるBPTT（Backpropagation Through Time）に関する説明として、最も適切な選択肢を1つ選べ

A）BPTTは、時間がループするRNNにおいて過去の時間軸をさかのぼって学習を行うため、ネットワークの層や時系列が長くなると勾配消失問題や勾配爆発問題が起こりやすくなる
B）BPTTは、未来のデータを一切見ずに、常に最新の1ステップのみをその場で処理するため、過去の長期間の情報を完全に記憶し続けることができる
C）BPTTは、テキストデータをシャッフルしてランダムな順序に並べ替えることで、過学習を防ぐための前処理手法である
D）BPTTは、LSTMにおいてセル状態を廃止し、計算量を削減するために導入された新しいゲート制御のアルゴリズムである

🔍 ここをクリックして正解を見る

正解: ○）A）BPTTは、時間がループするRNNにおいて過去の時間軸をさかのぼって学習を行うため、ネットワークの層や時系列が長くなると勾配消失問題や勾配爆発問題が起こりやすくなる

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

BPTTは、RNNで時間をさかのぼって間違いを正す学習手法。
時間軸を長くさかのぼるほど、勾配消失問題や勾配爆発問題が起きやすくなる。

■ 初学者向け解説（例え話や背景）

通常のAIは、今のデータから間違いを正す「誤差逆伝播法（バックプロパゲーション）」だけで済みますが、RNNは時間がつながっているため、間違いを直すときも「まるで映画のビデオテープを巻き戻すように、過去の時間軸を一つひとつさかのぼっていく」必要があります。これがBPTT（Backpropagation Through Time＝時間を通じた誤差逆伝播法）です。

しかし、この「巻き戻し」の距離が長くなればなるほど、古い過去にさかのぼる過程で修正のシグナルがすり減って消えてしまったり（勾配消失）、逆に膨れ上がって制御不能になったり（勾配爆発）するトラブルが起こります。これが、RNNが「すぐ忘れてしまう」根本的な原因です。

■ 選択肢の解説

A) BPTTは、時間がループするRNNにおいて過去の時間軸をさかのぼって学習を行うため、ネットワークの層や時系列が長くなると勾配消失問題や勾配爆発問題が起こりやすくなる（○）: 正しい記述です。BPTTの仕組みと、それに伴う勾配のトラブルの本質を捉えています。
B) BPTTは、未来のデータを一切見ずに、常に最新の1ステップのみをその場で処理するため、過去の長期間の情報を完全に記憶し続けることができる（×）: 過去をさかのぼって学習するのがBPTTであり、「完全に記憶し続ける」どころか長期の記憶が難しくなる弱点を持っています。
C) BPTTは、テキストデータをシャッフルしてランダムな順序に並べ替えることで、過学習を防ぐための前処理手法である（×）: データのシャッフルや前処理の話ではなく、RNNの「学習アルゴリズム」のことです。
D) BPTTは、LSTMにおいてセル状態を廃止し、計算量を削減するために導入された新しいゲート制御のアルゴリズムである（×）: セル状態を廃止して軽量化したのはGRUです。BPTTはLSTMやGRUが登場する前の初期のRNNから使われている基本的な学習手法です。

リンク