【G検定過去問風テスト】反事実的説明（Counterfactual Explanation）の仕組み

2026年8月8日 2026年8月8日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

AIモデルの予測結果に対する解釈手法の1つである「反事実的説明（Counterfactual Explanation）」に関する記述として、最も適切な選択肢を1つ選べ。

A）モデルが入力されたテキストのどの単語に強い注意を向けたかをマトリックス状に可視化する手法である
B）「もし〇〇の条件が△△だったら、予測結果（結論）はどう変わっていたか？」という、結論を反転させるために必要な最小限の条件変更を提示する説明手法である
C）協力ゲーム理論のシャープレイ値に基づいて、各特徴量の予測結果に対する貢献度を公理的に算出する手法である
D）特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、シンプルな線形代理モデルを当てはめる手法である

🔍 ここをクリックして正解を見る

正解: B）「もし〇〇の条件が△△だったら、予測結果（結論）はどう変わっていたか？」という、結論を反転させるために必要な最小限の条件変更を提示する説明手法である

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

「反事実的説明（Counterfactual Explanation）」は、「もしこうしていれば結果が変わっていたのに」という「あり得たかもしれない別の現実」を提示するXAI手法
単に理由を説明するだけでなく、ユーザーに対して「次どう行動すれば希望の結果になるか（改善策）」を具体的に提示できるのが大きなメリット

■ 初学者向け解説（例え話や背景）

銀行でローンの審査に落ちたとします。AIから「スコア不足です」とだけ言われても、「どうすれば通るのか」が分からないと納得いきませんよね。ここで反事実的説明が登場します。

反事実的説明は、例えるなら「合格するための最短の改善アドバイス」のようなものです。AIが「もしあなたの年収があと50万円高ければ、あるいは借入金があと10万円少なければ、今回のローン審査は通過していました」と教えてくれるアプローチです。事実とは異なる「もしも（Counterfactual）」の条件を示すことで、人間が「なるほど、じゃあもう少し貯金してから再挑戦しよう」と次の一歩を踏み出すための道標になります。

■ 選択肢の解説

A) モデルが入力されたテキストのどの単語に強い注意を向けたかをマトリックス状に可視化する手法である（×）: これはアテンションマップの説明です。
B) 「もし〇〇の条件が△△だったら、予測結果（結論）はどう変わっていたか？」という、結論を反転させるために必要な最小限の条件変更を提示する説明手法である（○）: 反事実的説明の本質を正確に表しています。
C) 協力ゲーム理論のシャープレイ値に基づいて、各特徴量の予測結果に対する貢献度を公理的に算出する手法である（×）: これはSHAPの説明です。
D) 特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、シンプルな線形代理モデルを当てはめる手法である（×）: これはLIMEの説明です。