【G検定過去問風テスト】AIのブラックボックス問題と説明可能性の基礎知識
※本記事では、アフィリエイトプログラムより教材を紹介しています。
📝 問題
ディープラーニングなどの複雑なモデルにおいて、予測精度が高くなる一方で、なぜその判断・予測を下したのかという計算プロセスが人間には理解できなくなる現象として、最も適切な選択肢を1つ選べ。
- A）オーバーフィッティング問題
- B）ブラックボックス問題
- C）フレーム問題
- D）シンボルグラウンディング問題
🔍 ここをクリックして正解を見る
- 正解: B）ブラックボックス問題
💡 合格に近づく！徹底解説
- 重要度: ★★★
■ 1分で分かる！この問題の要点
- ディープラーニングは多数のパラメータにより高精度を実現するが、計算プロセスが不透明になる。
- この現象を「ブラックボックス問題」と呼び、判断理由を説明可能にする試みを「説明可能性（XAI）」と呼ぶ。
■ 初学者向け解説（例え話や背景）
ベテランの名医が「長年の勘ですぐ手術しましょう」と言っても、理由が分からないと患者は不安になりますよね。AIも同じで、どれだけ精度が高くても「なぜその結論になったのか」が見えないと、医療や融資などの重要局面で社会的に受け入れられません。そのため、理由を明らかにすることが極めて重要になります。
■ 選択肢の解説
- A) オーバーフィッティング問題（×）: 訓練データに対して過剰に適応し、未知のデータに対する汎用性が低下する現象のことです。
- B) ブラックボックス問題（○）: システムの内部構造や計算プロセスが複雑すぎて、外部から動作原理や判断理由を理解できない状態を指します。
- C) フレーム問題（×）: 人工知能が現実の限定された問題すべてに対処できないという、AIの限界を示す哲学上の問題です。
- D) シンボルグラウンディング問題（×）: 記号（シンボル）とそれが指し示す現実世界の意味をどのように結びつけるかという問題です。
👉 次の問題＆解説テキスト
お疲れ様です！
この調子で次の問題に挑戦しますか？
それとも、立ち止まって詳しい解説を確認しますか？
