【G検定過去問風テスト】ゲーム理論を応用したAIの解釈手法SHAP

2026年8月8日 2026年8月8日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

ブラックボックス化された機械学習モデルの予測根拠を説明する手法であるSHAP（SHapley Additive exPlanations）に関する説明として、最も適切な選択肢を1つ選べ。

A）入力データを真っ黒な画像から元の画像まで少しずつ変化させながら勾配を足し合わせることで、各ピクセルの寄与度を算出する手法である
B）協力ゲーム理論におけるシャープレイ値に基づき、各特徴量が予測結果にどれだけ貢献したかを公理的に算出する手法である
C）特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな代理モデルを当てはめる手法である
D）畳み込み層の最後の特徴マップに対する予測クラスの勾配情報を利用し、画像のどこを見て判断したかをヒートマップとして表示する手法である

🔍 ここをクリックして正解を見る

正解: B）協力ゲーム理論におけるシャープレイ値に基づき、各特徴量が予測結果にどれだけ貢献したかを公理的に算出する手法である

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

SHAPは「シャープレイ値（Shapley Value）」というゲーム理論の概念をベースにしたXAI手法
各特徴量がモデルの予測値に対してどれくらい「プラス（あるいはマイナス）」に影響したのかを数学的に公平に割り出す

■ 初学者向け解説（例え話や背景）

例えば、あるチームがサッカーの試合で「5対0の大勝」をしたとします。このとき、「だれがどれだけ勝利に貢献したのか」を公平に評価するのは難しいですよね。SHAPはこの評価を数学的に解決する「協力ゲーム理論（シャープレイ値）」をAIに応用したものです。

AIの予測（例：ローンの審査結果）に対しても、「年収が＋50万円」「勤続年数が＋2年」「借入金が－10万円」といったように、それぞれの特徴量（メンバー）がどれだけ勝利（予測値）に貢献したのかをきれいに足し引きできる形で教えてくれます。計算量は少し重いですが、数学的な一貫性と公平性が保証されているのが特徴です。G検定でも大人気のエース級キーワードですので、ばっちりチェックしておきましょう。

■ 選択肢の解説

A) 入力データを真っ黒な画像から元の画像まで少しずつ変化させながら勾配を足し合わせることで、各ピクセルの寄与度を算出する手法である（×）: これはIntegrated Gradients（統合勾配）の説明です。
B) 協力ゲーム理論におけるシャープレイ値に基づき、各特徴量が予測結果にどれだけ貢献したかを公理的に算出する手法である（○）: SHAPの本質を正確に表しています。
C) 特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな代理モデルを当てはめる手法である（×）: これはLIMEの説明です。
D) 畳み込み層の最後の特徴マップに対する予測クラスの勾配情報を利用し、画像のどこを見て判断したかをヒートマップとして表示する手法である（×）: これは画像認識向けのGrad-CAMの説明です。