【G検定過去問風テスト】AI開発の脅威：データ汚染とモデル汚染の違い

2026年8月20日 2026年8月20日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

以下の文章を読み、空欄に最もよく当てはまる選択肢を1つ選べ。

学習フェーズ（トレーニング段階）において、AIモデルに悪意のある偽データや不正なラベルを意図的に混入させることで、モデルの予測精度全体を低下させたりバックドア動作を引き起こしたりする攻撃のことを ( ) と呼ぶ。

A）敵対的攻撃（Adversarial Attack）
B）モデル窃取（Model Extraction）
C）データ汚染（Data Poisoning）
D）データ窃取（Data Extraction）

🔍 ここをクリックして正解を見る

正解: C）データ汚染（Data Poisoning）

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

データ汚染は「学習・開発段階」で行われる攻撃
料理のレシピ本に毒を混ぜるように、あらかじめ間違ったデータを学習させて誤作動を狙う

■ 初学者向け解説（例え話や背景）

自動調理ロボットの例えで振り返ってみましょう。運用段階で目に見えないノイズを貼るのが「敵対的攻撃」です。一方、ロボットが賢くなる前の「教科書（学習データ）」の段階で、こっそり間違ったレシピを混ぜ込んでおくのが「データ汚染（Poisoning Attack）」です。基礎を教え込む段階で毒を盛られてしまうため、ロボットは悪意に気づけず、特定の注文が入ったときだけ変な料理を作ってしまうような裏口動作（バックドア）を覚えてしまいます。
では、タイトルにもある「モデル汚染（Model Poisoning）」はどう違うのでしょうか？
これも自動調理ロボットの例えで考えてみましょう。複数のロボットがそれぞれ学習した結果を持ち寄り、みんなで賢さを共有する仕組み（連合学習など）を想像してください。データ汚染が「教科書を書き換える」攻撃だったのに対し、モデル汚染は「ロボット自身が賢くなった成果を中央に報告するレポート（学習済みパラメータ・重み）の数値を、途中でこっそり書き換えて提出する」ような攻撃です。学習に使うデータそのものではなく、AIの「脳みそ（モデル）」のアップデート部分に直接毒を混ぜるため、より直接的かつ強力に悪影響を及ぼすリスクがあります。

■ 選択肢の解説

A) 敵対的攻撃（Adversarial Attack）（×）: 運用・推論段階で、入力データに微小なノイズを加えてAIを誤認させる攻撃です。
B) モデル窃取（Model Extraction）（×）: API等を通じて大量の入出力を繰り返し、AIモデルの機能や構造を複製する攻撃です。
C) データ汚染（Data Poisoning）（○）: 学習段階において不正なデータを混入させ、意図的な誤作動を引き起こさせる攻撃であり、問題文の記述に完全に一致します。
D) データ窃取（Data Extraction）（×）: モデルへの入力と出力から、学習に使用された非公開のプライベートデータを逆算して復元する攻撃です。

リンク