【G検定過去問風テスト】AIの解釈性を高めるLIMEの特徴と仕組み

2026年8月8日 2026年8月8日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

複雑なディープラーニングモデルの予測根拠を説明する手法であるLIME（Local Interpretable Model-agnostic Explanations）に関する説明として、最も適切な選択肢を1つ選べ。

A）特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな代理モデルを当てはめて説明する手法である
B）畳み込み層の最後尾の特徴マップに対する予測クラスの勾配情報を利用し、画像のどこを見て判断したかをヒートマップとして表示する手法である
C）協力ゲーム理論のシャープレイ値に基づき、各特徴量が予測結果にどれだけ貢献したかを公理的に算出する手法である
D）入力データを真っ黒な画像から元の画像まで少しずつ変化させながら勾配を足し合わせることで、各ピクセルの寄与度を算出する手法である

🔍 ここをクリックして正解を見る

正解: A）特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな代理モデルを当てはめて説明する手法である

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

LIMEは「モデル非依存（Model-agnostic）」かつ「局所的説明（Local）」を行う代表的なXAI手法
複雑なAI全体のルールを解き明かすのではなく、注目したい「たった1つのデータ」の周辺だけをシンプルな直線の式（代理モデル）で近似する

■ 初学者向け解説（例え話や背景）

ディープラーニングという巨大で複雑なAIの判断は、例えるなら「地球全体の複雑な気候変動」のようなものです。地球全体の仕組みを完璧に数式で表すのは不可能ですが、「いま自分が立っている足元のわずかなエリア」だけに限定すれば、単純化してある程度の原因を捉えることができますよね。

LIMEはこの発想と同じです。「この対象者のローン審査が落ちた理由」や「この画像が犬と判定された理由」を知りたいとき、そのデータの周辺にわざと少し変化（ノイズ）を与えたデータを作ってAIに何度も予測させます。その結果を集めることで、「この周辺ではこういうシンプルなルールで動いているな」と説明してくれるのがLIMEです。

■ 選択肢の解説

A) 特定の1つの入力データの周辺に少しノイズを加えたデータを大量に作り、その局所的な領域だけで扱いやすいシンプルな代理モデルを当てはめて説明する手法である（○）: LIMEの仕組みを正確に説明しています。
B) 畳み込み層の最後尾の特徴マップに対する予測クラスの勾配情報を利用し、画像のどこを見て判断したかをヒートマップとして表示する手法である（×）: これは画像認識で使われるGrad-CAMの説明です。
C) 協力ゲーム理論のシャープレイ値に基づき、各特徴量が予測結果にどれだけ貢献したかを公理的に算出する手法である（×）: これはSHAPの説明です。
D) 入力データを真っ黒な画像から元の画像まで少しずつ変化させながら勾配を足し合わせることで、各ピクセルの寄与度を算出する手法である（×）: これはIntegrated Gradients（統合勾配）の説明です。