【G検定対策】モデルの解釈性（XAI）重要キーワード16選！LIME・SHAP・Grad-CAMまで完全解説

2026年8月8日 2026年8月8日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

【重要度】★★★

G検定の「モデルの解釈性（XAI：説明可能なAI）」分野は、近年のAI倫理や社会的要請の高まりに伴い、試験での出題割合が急上昇している超重要テーマです。
「LIMEとSHAPの違いがよく分からない…」「Grad-CAMって何をする技術？」「モデル非依存（Model-agnostic）とモデル依存（Model-specific）ってどう見分けるの？」と悩んでいませんか？

ご安心ください！この記事では、AIのブラックボックス問題を解消する基本概念から、画像・テキスト・数値データの根拠を可視化する最新のXAI（eXplainable AI）技術まで、シラバスの全重要キーワードを身近な「例え話」で徹底解説します。
試験で狙われやすい「ひっかけ問題パターン」や要点比較表も用意していますので、最後まで読んでモデルの解釈性分野を得点源に変えていきましょう！

1. モデルの解釈性（XAI）とは？分かりやすい例え話で解説

モデルの解釈性（Interpretability / Explainability）とは、「AIがなぜその予測や判断を下したのか、人間が納得できる形で理由を説明できる性質」のことです。それを実現する技術全般をXAI（説明可能なAI）と呼びます。

ディープラーニングなどの複雑なAIは、極めて高い精度を誇る一方で、数百万〜数千億個ものパラメータが複雑に絡み合っているため、内部でどのような計算が行われたのか人間には見えない「ブラックボックス」になりがちです。
医療診断、ローン審査、自動運転などの生命や財産に関わる分野では、「理由は分からないがAIがそう言っている」では信頼して採用できません。

モデルの解釈性は、言ってみれば「ベテラン医師の診断と説明」に例えられます。

1. ブラックボックスAI（理由を言わない名医）： 「あなたのがんリスクは90%です。理由は複雑すぎて説明できません」と言われても、患者は怖くて治療を受けられません。
2. XAI・解釈可能なモデル（親切な説明をする名医）： 「レントゲン写真のこの陰影（Grad-CAM）と、血圧の数値（SHAP）が大きく影響して、リスク90%と判断しました」と根拠を示してくれるため、人間が安心して判断を下せます。

G検定では、「ブラックボックスとホワイトボックスの違い」「大域的説明と局所的説明」「代表的な説明手法（LIME, SHAP, Grad-CAM）」「モデル非依存とモデル依存」の4つの軸から出題されます。
それでは、重要キーワードを順番に押さえていきましょう！

2. 試験に出る！最重要キーワードの解説と覚え方

G検定で出題されるキーワードを、「基礎概念と分類」「代表的な局所説明手法（LIME・SHAP・Grad-CAMなど）」「その他の解釈・可視化技術」「社会的背景とトレードオフ」の4つのグループに分けて徹底解説します。

【基礎概念と分類】説明の手法を整理する軸

AIモデルをどのように説明するかを分類するための基本概念です。

XAI（eXplainable AI：説明可能なAI）

AIの予測結果や判断プロセスの根拠を、人間が理解・追跡できるように提示する技術や研究分野の総称です。

ブラックボックスモデル vs ホワイトボックスモデル

ブラックボックスモデル： 複雑なディープラーニングやアンサンブル学習（ランダムフォレスト等）のように、内部の計算過程が複雑で直接理解するのが困難なモデル。
ホワイトボックスモデル（ガラスボックスモデル）： 決定木（Decision Tree）や線形回帰のように、重みや分岐ルールを人間が直接見て直感的に理由を理解できるシンプルなモデル。

大域的説明（Global Explanation） vs 局所的説明（Local Explanation）

大域的説明（Global）： モデル全体がどのようなルールや傾向で判断しているか（例：「このモデル全体で最も重要な特徴量は『年収』である」）。
局所的説明（Local）： 特定の「1つのデータ（1人の患者、1枚の写真）」に対して、なぜその予測結果になったのか（例：「Aさんのローン審査が落ちた理由は『勤続年数』が短かったためである」）。

モデル非依存（Model-agnostic） vs モデル依存（Model-specific）

モデル非依存（Model-agnostic）： モデルの中身（構造）に関係なく、どんなアルゴリズム（SVM、ランダムフォレスト、DNNなど）に対しても共通して使える説明手法（例：LIME, SHAP）。
モデル依存（Model-specific）： 特定のモデル構造に依存しており、そのモデルでしか使えない説明手法（例：CNNの勾配を利用するGrad-CAM、決定木の特徴量重要度）。

【代表的な局所説明手法】超重要！LIME・SHAP・Grad-CAM

G検定で最も出題される、特定の予測理由を説明する3大手法です。

LIME（Local Interpretable Model-agnostic Explanations）

特定の1つの入力データの「周辺」に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな線形モデル（代理モデル）を当てはめて説明する手法です。
モデル非依存（Model-agnostic）かつ局所的説明（Local）の代表格です。

SHAP（SHapley Additive exPlanations）

協力ゲーム理論の「シャープレイ値（Shapley Value）」という数学的概念に基づき、「各特徴量が予測結果にどれだけ貢献（加算・減算）したか」を公理的に算出する手法です。
LIMEと比べて計算量は多いものの、数学的に一貫性（Consistency）と公平性が保証されているのが大きな強みです。モデル非依存かつ局所的説明で広く使われます。

Grad-CAM（Gradient-weighted Class Activation Mapping）

主に画像認識（CNN）で用いられる可視化手法です。
畳み込み層の「最後の特徴マップ」に対する「予測クラスの勾配情報（Gradient）」を利用し、画像の「どこを見てそのクラス（例：犬）と判断したか」をヒートマップとして重ね合わせて表示します。
CNN内部の勾配計算を利用するため、モデル依存（Model-specific）の手法です。

Integrated Gradients（統合勾配）

入力データを「真っ黒な画像（ベースライン）」から「元の画像」まで少しずつ変化させながら勾配を足し合わせる（積分する）ことで、各ピクセルが予測に与えた寄与度を算出する手法です。

【その他の解釈・可視化技術】構造に応じた可視化

画像・テキスト・表データで使われる様々な解釈アプローチです。

代理モデル / サロゲートモデル（Surrogate Model）

ブラックボックスな複雑モデルの挙動を模倣させるために訓練する、構造がシンプルで解釈しやすいホワイトボックスモデル（決定木や線形モデルなど）のことです。

大域的代理モデル： モデル全体の挙動を模倣する。
局所的代理モデル： LIMEのように、特定の1点の周辺だけの挙動を模倣する。

アテンションマップ（Attention Map）

Transformerなどのアテンション機構において、「モデルが入力のどの単語やどの領域に強い注意（重み）を向けたか」を可視化した行列・図のことです。
自然言語処理やマルチモーダルモデルの解釈でよく使われます。

反事実的説明（Counterfactual Explanation）

「もし〇〇が△△だったら、結果はどう変わっていたか？」を示す説明手法です。
（例：「もし年収があと50万円高ければ、ローン審査は通過していました」のように、結論を反転させるために必要な最小の条件変更を提示します）。

PDP（Partial Dependence Plot：部分依存判定図）

特定の1〜2個の特徴量が変化したときに、モデルの予測値が全体としてどのように変化するかをグラフ化して可視化する大域的な分析手法です。

【社会的背景とトレードオフ】なぜ今解釈性が必要なのか

AIの社会実装において避けて通れない制約やルールです。

精度と解釈性のトレードオフ（Accuracy vs Interpretability Trade-off）

一般に、「モデルの予測精度が高くなればなるほど、構造が複雑になり解釈性が低下する」というトレーディング関係のことです。
（例：単一の決定木は解釈性◎・精度△、ディープラーニングは解釈性✕・精度◎）。

説明を受ける権利（Right to Explanation）

EUの「GDPR（一般データ保護規則）」などで議論される法的な概念です。
「AIなどの自動化された処理のみによって、個人に重大な影響を及ぼす決定（融資の拒否や採用不合格など）が下された場合、本人はその決定理由について説明を求める権利がある」という考えです。

リンク

3. 【要点整理】XAIの主要手法（LIME / SHAP / Grad-CAM）比較表

試験で最も狙われやすい「XAI手法の分類と仕組み」を一覧表にまとめました。

手法名	適用モデルの範囲	説明の範囲	アプローチ・理論	主な対象データ
LIME	モデル非依存 (Model-agnostic)	局所的 (Local)	入力周辺にノイズを与え、シンプルな代理モデルで局所近似	テキスト、画像、表データ
SHAP	モデル非依存 (Model-agnostic)	局所的 (※大域集計も可)	協力ゲーム理論の「シャープレイ値」に基づく特徴量寄与度	表データ、画像、テキスト
Grad-CAM	モデル依存 (Model-specific / CNN向け)	局所的 (Local)	最終畳み込み層の「勾配情報」を利用したヒートマップ表示	画像データ（CNN等）
PDP	モデル非依存 (Model-agnostic)	大域的 (Global)	1〜2個の特徴量と予測値の関係をグラフ化	表データ

4. G検定の「ひっかけ問題パターン」を総チェック！

実際の試験で問われやすい「分類のすり替え」や「理論背景の誤り」のパターンです。

Q1. LIMEとSHAPの理論背景に関する記述

✕（誤り）： LIMEは協力ゲーム理論の「シャープレイ値」を用いて特徴量の公平な貢献度を算出する手法であり、SHAPはデータ周辺にノイズを加えて局所的な線形モデルを作成する手法である。
〇（正しい）： 手法の解説が逆です！ゲーム理論（シャープレイ値）に基づくのは「SHAP」で、局所的にノイズ（摂動）を加えてシンプルな代理モデルを作るのが「LIME」です。

Q2. Grad-CAMの分類（モデル非依存かモデル依存か）に関する記述

✕（誤り）： Grad-CAMは、あらゆる機械学習・ディープラーニングモデルに共通して適用できるモデル非依存（Model-agnostic）な視覚的説明手法である。
〇（正しい）： Grad-CAMは畳み込み層（CNN）の「勾配（Gradient）」を利用するため、「モデル依存（Model-specific）」の手法です。どんなモデルにも使えるわけではありません。

Q3. 大域的説明と局所的説明に関する記述

✕（誤り）： 局所的説明（Local Explanation）とは、モデル全体の判断基準や特徴量の重要度ルールを総合的に把握・提示する説明アプローチである。
〇（正しい）： モデル全体ルールを示すのは「大域的説明（Global Explanation）」です！局所的説明は「特定の1つのデータに対する予測理由」を示すものです。

Q4. 精度と解釈性のトレードオフに関する記述

✕（誤り）： ディープラーニングは、決定木や線形回帰と比較して予測精度が極めて高いだけでなく、内部の重みが可視化されているため解釈性においても非常に優れている。
〇（正しい）： ディープラーニングは精度が高い反面、パラメータが膨大で内部が複雑なため「解釈性が低い（ブラックボックス問題）」というトレードオフが存在します。

🔥 まとめ：XAI手法の「分類の軸（Local/Global, Agnostic/Specific）」を理解しよう！

モデルの解釈性分野を攻略するカギは、各手法をただ丸暗記するのではなく、「どういう軸で分類されているか」を整理することです。

1. 分類の2大軸： 「1つのデータを説明するか（Local） / 全体を説明するか（Global）」＆「どんなモデルでも使えるか（Agnostic） / 特定モデル専用か（Specific）」。
2. 3大手法のセット：
* LIME： 局所ノイズ＋代理モデル（Agnostic / Local）
* SHAP： ゲーム理論のシャープレイ値（Agnostic / Local）
* Grad-CAM： CNNの勾配でヒートマップ（Specific / Local）

この軸と各キーワードを結びつけておけば、G検定のXAI問題はバッチリ攻略できます！

自信を持って次のステップへ進みましょう。応援しています！

【大人気💡】過去問風ミニテスト＆関連テキスト

「モデルの解釈性」はバッチリ理解できましたか？
知識を確実に定着させて一発合格を引き寄せるために、今のあなたに最適なステップを選んで進んでみましょう！

合格率をグッと上げる！「過去問風ミニテスト」に挑戦

解説を読んだら、さっそく問題に挑戦して実力を確かめてみましょう！
ボタンをクリックするとミニテストのページが開きます。

📝 過去問風ミニテストに挑戦する

🚀 最短ルートで合格を目指す！「厳選参考書」参考書をチョイス

G検定合格へのロードマップは、この一冊を机に置くことから始まります。まずは目次だけでもチェックしてみてください。

【初心者に優しい】
G検定おすすめ参考書を見てみる

知識を『覚えたつもり』で終わらせない。この1冊を解き終える頃には、合格ライン突破に確実に近づきます。

【合格者も愛用】
本番を想定した問題集で実践力を鍛える