【G検定過去問風テスト】鞍点やローカルミニマを回避!最適化手法の基礎と出題ポイント

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

ディープラーニングのパラメータ最適化において発生する学習上の課題や地形に関する説明として、最も適切な選択肢を1つ選べ。

  • A)馬の鞍のような形状をし、ある方向から見ると極小値だが別の方向から見ると極大値となるような、勾配が0になる地点を「ローカルミニマ」と呼ぶ。
  • B)濃い霧の中で最も標高の低い「大局最適解(グローバルミニマ)」を目指す過程で、手前にある小さなくぼみに囚われて抜け出せなくなる状態を「局所最適解(ローカルミニマ)」に陥ると呼ぶ。
  • C)最適化手法における学習率は、誤差逆伝播法を通じてモデルが自動的に最適な値へと更新していくパラメータである。
  • D)AdaGradは過去の勾配情報を蓄積することで、学習が進むにつれてステップ幅(学習率)を徐々に大きくしていく特徴を持つ。
🔍 ここをクリックして正解を見る
  • 正解: B)濃い霧の中で最も標高の低い「大局最適解(グローバルミニマ)」を目指す過程で、手前にある小さなくぼみに囚われて抜け出せなくなる状態を「局所最適解(ローカルミニマ)」に陥ると呼ぶ。

💡 合格に近づく!徹底解説

  • 重要度: ★★★

■ 1分で分かる!この問題の要点

  • 局所最適解(ローカルミニマ)は「本当の谷底(グローバルミニマ)」の手前にあるただの小さなくぼみのこと!
  • 鞍点(あんてん)は「ある方向では谷底だが、別方向では山頂」に見える馬の鞍(くら)のような平らな地形
  • ハイパーパラメータ(学習率など)は人間がセットするツマミであり、AIが自動更新するものではない!

■ 初学者向け解説(例え話や背景)

AIの学習(最適化)は、いわば「濃い霧に包まれた山の中で、足元の傾斜だけを頼りに一番深い谷底(大局最適解)を目指して下山するゲーム」です。

周りが全く見えないため、AIは「足元の傾斜が平らになった場所」に着くと、「ここが一番深い谷底だ!」と勘違いしてしまいます。
これが局所最適解(ローカルミニマ)というトラップです。

また、「前後から見れば谷底だけど、左右から見れば山頂」という馬の鞍(くら)のような地形である鞍点(あんてん)も厄介な罠です。ここでは傾斜がなくなってしまうため、AIは「どっちに進めばいいの?」と立ち往生してしまいます。

これらの罠を突破するために、勢い(慣性)をつけて滑り抜ける「モーメンタム」や、ブレーキを調整する「RMSprop」、そしてそれらを合体させた最強の手法「Adam」などが開発されてきたのです。


■ 選択肢の解説

  • A) 馬の鞍のような形状をし…(×): これは「ローカルミニマ」ではなく「鞍点(あんてん)」の説明です。用語の定義が入れ替わっている典型的な選択肢です。
  • B) 濃い霧の中で最も標高の低い…(○): 正解です! 本当の目的地である「大局最適解(グローバルミニマ)」に届かず、手前の小さなくぼみでストップしてしまう状態を正しく表現しています。
  • C) 最適化手法における学習率は…(×): 学習率はAIが自動更新するパラメータではなく、人間が事前に手動で設定する「ハイパーパラメータ」です。
  • D) AdaGradは過去の勾配情報を蓄積することで…(×): AdaGradはブレーキをかけていく手法なので、学習率は徐々に「小さくなっていく」のが正しい動きです。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?