【G検定過去問風テスト】活性化関数の基礎と勾配消失問題を徹底解説!

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

ディープラーニングにおいて用いられる活性化関数に関する記述として、最も適切な選択肢を1つ選べ。

  • A)シグモイド関数は、入力が0を超えるとその値をそのまま出力し、入力が0以下では一律0を出力するため、層が深いネットワークでの勾配消失問題を劇的に改善した。
  • B)ReLU関数は、入力が0を超えるとその値をそのまま出力し、入力が0以下では一律0を出力する関数であり、現在の隠れ層(中間層)において標準的に用いられている。
  • C)ソフトマックス関数は、出力の合計が必ず0になるように調整する関数であり、主に2クラス分類問題の出力層で用いられる。
  • D)tanh(ハイパボリックタンジェント)関数は、出力を0から1の範囲に収める関数であり、主に多クラス分類問題の出力層で用いられる。
🔍 ここをクリックして正解を見る
  • 正解: B)ReLU関数は、入力が0を超えるとその値をそのまま出力し、入力が0以下では一律0を出力する関数であり、現在の隠れ層(中間層)において標準的に用いられている。

💡 合格に近づく!徹底解説

  • 重要度: ★★★

■ 1分で分かる!この問題の要点

  • 隠れ層(中間層)の絶対的エースは「ReLU関数(0以下切り捨て、0超えそのまま)」。
  • 出力層では、2クラス分類なら「シグモイド関数」、**多クラス分類なら「ソフトマックス関数」**を使い分ける。

■ 初学者向け解説(例え話や背景)

活性化関数とは、次のニューロン(人)にどれだけの熱量で情報を伝えるかを決める「やる気スイッチ」「会社の上司の承認スタンプ」のようなものです。

もし活性化関数がないと、いくら層を深く重ねても単純な計算(足し算・掛け算)の繰り返しにしかなりません。活性化関数というフィルターを通すことで、データに「複雑な変化」を与え、AIが賢く学習できるようになります。

昔は「シグモイド関数」が主流でしたが、伝言ゲーム(誤差逆伝播)の最中に熱量がどんどん冷めて消えてしまう「勾配消失問題」が起きてしまいました。そこで登場したのが「ReLU関数」です。条件が合えばそのまま熱量を届けるシンプルな仕組みによって勾配消失問題を克服し、現在のディープラーニングの主役となりました。


■ 選択肢の解説

  • A) シグモイド関数は、入力が0を超えるとその値をそのまま出力し…(×): 説明されている動作は「ReLU関数」のものです。シグモイド関数は出力を「0から1の間」に収めるS字カーブの関数で、勾配消失問題の原因となりました。
  • B) ReLU関数は、入力が0を超えるとその値をそのまま出力し…(○): 正しい記述です。計算が高速で勾配消失問題を防げるため、現在の隠れ層で最も広く標準的に利用されています。
  • C) ソフトマックス関数は、出力の合計が必ず0になるように…(×): ソフトマックス関数は「出力全体の合計が1(100%)」になるよう変換する関数で、主に多クラス分類の出力層で使われます。
  • D) tanh(ハイパボリックタンジェント)関数は、出力を0から1の範囲に…(×): tanh関数は出力を「-1から1の間」に収めるゼロ中心の関数で、主に隠れ層で使われました。出力を0から1にするのはシグモイド関数です。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?