【G検定過去問風テスト】勾配消失問題のメカニズムとシグモイド関数の落とし穴

2026年7月24日 2026年7月24日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

ディープラーニングにおいて、ネットワークの層を深くした際に発生しやすい「勾配消失問題」の説明として、最も適切な選択肢を1つ選べ。

A）誤差逆伝播法において、出力層から入力層へ向かって学習情報を遡らせる際、活性化関数（シグモイド関数など）の微分の最大値が1未満であるため、層を経由するごとに勾配が小さくなり、入力層近くの重みが更新されなくなる現象。
B）順伝播において、入力データに活性化関数を繰り返し適用した結果、層を深めるごとに計算結果が「0」に収束してしまい、出力層での予測精度が著しく低下する現象。
C）誤差逆伝播法において、活性化関数にReLU関数を用いた際に、微分の値が1を超えて掛け合わされ続けることで、勾配が無限大に肥大化して学習が不安定になる現象。
D）学習データが多すぎることによって、コンピューターの処理能力を超えてしまい、勾配の計算処理が途中で強制終了してしまう現象。

🔍 ここをクリックして正解を見る

正解: A）誤差逆伝播法において、出力層から入力層へ向かって学習情報を遡らせる際、活性化関数（シグモイド関数など）の微分の最大値が1未満であるため、層を経由するごとに勾配が小さくなり、入力層近くの重みが更新されなくなる現象。

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

勾配消失問題は「誤差逆伝播法（後ろから前へ遡る学習）」の段階で発生する。
シグモイド関数の微分（傾き）の最大値は「0.25」。1未満の値を何度も掛け算するため、入力層（前の層）に到達する頃には勾配がほぼゼロになってしまう。

■ 初学者向け解説（例え話や背景）

勾配消失問題は、よく「声がかすれる伝言ゲーム」に例えられます。

AIが学習するときは、間違えた理由を一番後ろの層（出力層）から一番前の層（入力層）に向かって「ここをこう直して！」と伝言ゲームのように伝えていきます（誤差逆伝播法）。

このとき、途中に「シグモイド関数」というフィルターがあると、伝言の声量が毎回最大でも「25％（0.25倍）」に削られてしまいます。「100の熱量」で伝えたアドバイスも、1つ前の層で25、もう1つ前で6.25、その前で1.56……と急速に小さくなり、一番大切な最初の層（入力層側）に着く頃には、ほぼ無音（ゼロ）になってしまうのです。

この「アドバイスが届かず、前の層が全く成長できなくなる現象」こそが勾配消失問題です！

■ 選択肢の解説

A) 誤差逆伝播法において、出力層から入力層へ向かって…（○）: 正しい記述です。シグモイド関数の微分最大値は0.25であり、層を重ねるごとに0.25が掛け算され続けるため、入力層側で勾配が消えてしまいます。
B) 順伝播において、入力データに…（×）: 勾配消失問題が起きるのは入力から出力へ向かう「順伝播」ではなく、後ろから前へと修正指示を戻す「誤差逆伝播」のタイミングです。
C) 誤差逆伝播法において、活性化関数にReLU関数を用いた際に…（×）: これは「勾配爆発（Exploding Gradients）」に関する説明のひっかけです。また、ReLU関数（0を超えると傾き1）は勾配消失を防ぐために導入された主役です。
D) 学習データが多すぎることによって…（×）: データの多さやPCのスペック・処理中断とは無関係です。ニューラルネットワークの構造的・数理的な問題です。

リンク