【G検定過去問風テスト】複雑な関係も捉える!「相互情報量」とは

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

以下の文章を読み、空欄に最もよく当てはまる選択肢を1つ選べ。

一方の変数に関する知識を得ることで、もう一方の変数に関する曖昧さ(不確実性)がどれくらい減少するかを表す指標であり、線形な関係だけでなく複雑な非線形関係の強さも捉えられるため特徴量選択等で活用されるものは ( ) である。

  • A)相互情報量
  • B)ピアソン相関係数
  • C)偏相関係数
  • D)共分散
🔍 ここをクリックして正解を見る
  • 正解: A)相互情報量

💡 合格に近づく!徹底解説

重要度: ★★☆

■ 1分で分かる!この問題の要点

  • 相互情報量:情報理論の概念に基づき、「一方のデータを知ることで、もう一方のデータの不確実さがどれだけ減るか(結びつきが強いか)」を測る指標。
  • 相関係数は「右肩上がり・右肩下がり(直線的な関係)」しか捉えられないが、相互情報量なら「U字型」などの非線形な関係もしっかり捉えられるのが最大の強み。
  • AIの機械学習モデルを作る前の「使える特徴量(データ列)の選び方」で大活躍する。

■ 初学者向け解説(例え話や背景)

「相関係数」は、きれいに右肩上がりや右肩下がりになるような「直線的な関係(線形)」を見つけるのは得意です。しかし、世の中のデータには、「ある一定の範囲までは増えるけれど、高すぎると逆に減る(U字や山の形をした複雑な関係)」といった、直線では表せない関係がたくさんあります。

こうした複雑な関係に対して相関係数を使うと、「直線ではないので関係ありません(相関ゼロ)」と誤って切り捨てられてしまいます。それはもったいないですよね!

そこで登場するのが相互情報量です。「片方のデータの中身が分かったとき、もう片方のデータについてのモヤモヤ(迷い・不確実さ)がどれくらいスッキリ晴れるか」を測ります。直線だろうが曲がりくねっていようが、「何らかの強い結びつき(情報の共有)があれば高い値が出る」という柔軟性を持っているため、AIが予測に役立つ大切なデータを探し出す(特徴量選択)ときの強力な武器になります。


■ 選択肢の解説

  • A) 相互情報量(○): 一方の情報によってもう一方の不確実性が減る度合いを表し、非線形な関係も捉えられる指標です。本問の正解です。
  • B) ピアソン相関係数(×): 2つの変数の間にどれくらい直線的な相関関係があるかを測る指標で、非線形な関係は見逃してしまいます。
  • C) 偏相関係数(×): 第3の変数の影響を取り除いたうえで、純粋な直線的相関を計算した値です。
  • D) 共分散(×): 2つの変数の共同的な増減傾向を表しますが、単位によって値が変わる欠点があります。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?