【G検定過去問風テスト】オートエンコーダの歴史的役割とは?事前学習の仕組み
※本記事では、アフィリエイトプログラムより教材を紹介しています。
📝 問題
ディープラーニングがまだ上手く動かなかった時代に行われていた、ネットワーク全体を一度に学習させる前に、各層をオートエンコーダを使ってあらかじめ「良い初期値」に調整しておく手法として、最も適切な選択肢を1つ選べ
- A)ファインチューニング
- B)事前学習(Pre-training)
- C)データ増拡張(データオーグメンテーション)
- D)バッチ正規化
🔍 ここをクリックして正解を見る
- 正解: ○)B)事前学習(Pre-training)
💡 合格に近づく!徹底解説
- 重要度: ★★☆
■ 1分で分かる!この問題の要点
- 事前学習は、多層のニューラルネットワークを学習させる際、あらかじめ各層をオートエンコーダ等で個別に学習させて「良い初期値」を与える手法。
- ディープラーニングの黎明期(冬の時代)において、勾配消失問題などを克服してネットワークを深く学習させるためのブレイクスルーとなった。
■ 初学者向け解説(例え話や背景)
昔のディープラーニングは、層を深くしすぎると途中で学習がうまくいかなくなる(勾配消失が起きる)という大きな壁がありました。そこで考え出されたのが、「いきなり全体を勉強するのではなく、1層ずつウォーミングアップをさせてから本番に臨む」という方法です。
学校の部活でいきなり試合に出るのではなく、まずは基礎的なパス回しや素振りを徹底的に体に染み込ませてからフォーマットを作るようなものです。このウォーミングアップの役割を果たしたのがオートエンコーダであり、これを事前学習と呼びます。現在では「バッチ正規化」などの登場により使われる機会は減りましたが、AIの歴史を語る上で欠かせない重要キーワードです!
■ 選択肢の解説
- A) ファインチューニング(×): すでに学習済みのモデルに対して、新しいデータを用いて追加で微調整を行う学習手法のことです。
- B) 事前学習(○): 本格的な学習の前に、オートエンコーダ等を用いて各層の重みの「良い初期値」をあらかじめ獲得しておく手法です。
- C) データ拡張(×): 画像の回転や反転、色調の変化などを行って、訓練データのバリエーションを意図的に増やす手法です。
- D) バッチ正規化(×): ミニバッチごとにデータの平均と分散を調整し、学習を安定化・高速化させる現代の必須技術です。
👉 次の問題&解説テキスト
お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?
