【G検定過去問風テスト】代理モデル（サロゲートモデル）の仕組みと役割

2026年8月8日 2026年8月8日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

複雑なブラックボックスモデルの挙動を解釈するために用いられる「代理モデル（サロゲートモデル）」に関する記述として、最も適切な選択肢を1つ選べ。

A）代理モデルとは、ディープラーニングなどの複雑なモデルの代わりに、中身がシンプルで人間が解釈しやすいホワイトボックスモデルを用いてその挙動を模倣・近似させる手法である
B）代理モデルとは、画像認識モデルの中身の構造を一切変えずに、畳み込み層の勾配情報を利用してヒートマップを直接描画する手法のことである
C）代理モデルとは、協力ゲーム理論のシャープレイ値に基づいて、各特徴量の予測結果に対する寄与度を厳密に計算する数理モデルのことである
D）代理モデルとは、入力データを真っ黒な状態から少しずつ変化させながら勾配を足し合わせることで、各ピクセルの重要度を算出する手法である

🔍 ここをクリックして正解を見る

正解: A）代理モデルとは、ディープラーニングなどの複雑なモデルの代わりに、中身がシンプルで人間が解釈しやすいホワイトボックスモデルを用いてその挙動を模倣・近似させる手法である

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

「代理モデル（サロゲートモデル）」は、中身が複雑で解釈できないブラックボックスモデルの「物真似（模倣）」をする、構造がシンプルなホワイトボックスモデルのこと
モデル全体を模倣する「大域的代理モデル」と、特定の1データの周辺だけを模倣する「局所的代理モデル（LIMEなど）」がある

■ 初学者向け解説（例え話や背景）

難解な数学の論文や専門用語ばかりの解説を、一般の人にも分かるように「分かりやすい言葉で翻訳して説明してくれる通訳」を挟むことがありますよね。代理モデルもこれと同じ発想です。

ディープラーニングのような複雑なモデルは中身が難解すぎて人間には直接理解できません。そこで、その複雑なモデルの予測結果を「お手本」にして、中身が透けて見えやすい決定木や線形回帰といったシンプルなホワイトボックスモデル（代理モデル）に似たような動きを学習させます。そうすることで、「代理モデルがこう言っているから、元のAIはこういうルールで判断しているんだな」と間接的に解釈できるようになります。

■ 選択肢の解説

A) 代理モデルとは、ディープラーニングなどの複雑なモデルの代わりに、中身がシンプルで人間が解釈しやすいホワイトボックスモデルを用いてその挙動を模倣・近似させる手法である（○）: 代理モデルの本質を正確に表しています。
B) 代理モデルとは、画像認識モデルの中身の構造を一切変えずに、畳み込み層の勾配情報を利用してヒートマップを直接描画する手法のことである（×）: これはGrad-CAMの説明です。
C) 代理モデルとは、協力ゲーム理論のシャープレイ値に基づいて、各特徴量の予測結果に対する寄与度を厳密に計算する数理モデルのことである（×）: これはSHAPの説明です。
D) 代理モデルとは、入力データを真っ黒な状態から少しずつ変化させながら勾配を足し合わせることで、各ピクセルの重要度を算出する手法である（×）: これはIntegrated Gradientsの説明です。