【G検定過去問風テスト】確率分布のズレを計算するKLダイバージェンスの特徴と注意点

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

確率分布間の差異を評価する指標である「カルバック・ライブラー情報量(KLダイバージェンス)」の説明として、最も適切な選択肢を1つ選べ。

  • A)2つの確率分布がどの程度異なっているかを評価する指標であり、分布Pから見た分布Qの距離と、分布Qから見た分布Pの距離は一致する。
  • B)1つの確率分布がどの程度正規分布に近いかを定量的に評価するための指標であり、常にマイナスの値をとる。
  • C)2つの確率分布の違いを定量的に評価するための指標であり、非対称であるため、基準とする分布の順序を入れ替えると得られる値が異なる場合がある。
  • D)2つの確率分布の相関関係を表す指標であり、共分散をそれぞれの標準偏差の積で割ることによって算出される。
🔍 ここをクリックして正解を見る
  • 正解: C)2つの確率分布の違いを定量的に評価するための指標であり、非対称であるため、基準とする分布の順序を入れ替えると得られる値が異なる場合がある。

💡 合格に近づく!徹底解説

  • 重要度: ★★☆

■ 1分で分かる!この問題の要点

  • KLダイバージェンス: 2つの確率分布(データのばらつき方)の「グラフの形のズレ」を測る指標。
  • 最大のひっかけポイント: 数学的な意味での一般的な「距離」とは異なり、「非対称(見る方向で値が変わる)」であること。

■ 初学者向け解説(例え話や背景)

データのまとまり(確率分布)を「山の形」に例えてみましょう。

「本当のデータの形(山P)」に対して、「AIが予想したデータの形(山Q)」がどれくらいズレているかを測るのがKLダイバージェンスです。2つの形がピッタリ一致していればズレは「0」になります。

ここで試験に頻出するのが「一方通行(非対称)」という性質です。
例えば、「大人から見た子供の背の高さの違い」と「子供から見た大人の背の高さの違い」では視点が異なるように、「Pから見たQのズレ」と「Qから見たPのズレ」は同じ値になりません
この「非対称性」がG検定で非常に狙われやすいポイントです!


■ 選択肢の解説

  • A) 2つの確率分布がどの程度異なっているかを評価する指標であり、分布Pから見た分布Qの距離と、分布Qから見た分布Pの距離は一致する。(×): 不適切です。KLダイバージェンスは「非対称」であるため、Pから見たQと、Qから見たPの数値は一致しません(非対称性)。
  • B) 1つの確率分布がどの程度正規分布に近いかを定量的に評価するための指標であり、常にマイナスの値をとる。(×): 不適切です。KLダイバージェンスは「2つの確率分布」の違いを測るものであり、値は常に「0以上(非負)」になります。
  • C) 2つの確率分布の違いを定量的に評価するための指標であり、非対称であるため、基準とする分布の順序を入れ替えると得られる値が異なる場合がある。(○): 記述の通りです。KLダイバージェンスの本質である「2つの確率分布の評価」および「非対称性」を正確に説明しています。
  • D) 2つの確率分布の相関関係を表す指標であり、共分散をそれぞれの標準偏差の積で割ることによって算出される。(×): 不適切です。この記述は「ピアソンの積率相関係数」の説明です。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?