【G検定過去問風テスト】分散表現のメリットとは?ワンホットベクトルとの違いを徹底解説

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

単語の特徴表現に関する説明として、最も適切な選択肢を1つ選べ。

  • A)ワンホットベクトルは、単語の意味の近さを内積(コサイン類似度)によって正確に評価できるため、Word2Vecの代替として広く使われている。
  • B)分散表現は、高次元空間に単語を配置することで、単語の意味の近さや関係性を表現可能にし、「王 - 男性 + 女性 = 女王」のような単語の意味の足し算・引き算ができる。
  • C)BoW(Bag-of-Words)は、文章中の単語の並び順(語順)を完全に保持してベクトル化する手法である。
  • D)TF-IDFは、あらゆる文書に共通して頻出する一般的な単語の評価を高く、特定の文書にしか出ない単語の評価を低くする指標である。
🔍 ここをクリックして正解を見る
  • 正解: B)分散表現は、高次元空間に単語を配置することで、単語の意味の近さや関係性を表現可能にし、「王 - 男性 + 女性 = 女王」のような単語の意味の足し算・引き算ができる。

💡 合格に近づく!徹底解説

  • 重要度: ★★★

■ 1分で分かる!This問題の要点

  • ワンホットベクトルは「1と0の羅列」なので、単語同士の意味の近さを計算できない。
  • 分散表現は、単語を小数点のベクトルで表し、意味の近さや足し算・引き算(ベクトル演算)を可能にした画期的な手法。

■ 初学者向け解説(例え話や背景)

コンピュータは数字しか読めないため、人間の言葉を数字に直す必要があります。最初期に使われたのが「ワンホットベクトル」です。

ワンホットベクトルは、例えば1万語の辞書がある場合、1万個の部屋を用意して「お目当ての単語の部屋だけ『1』、ほかは全部『0』」にする方法です。これの何がダメかと言うと、「犬」の部屋と「猫」の部屋はまったく別の場所にあるため、AIから見ると「犬と猫は似ている」ということが一切分からないのです。

これを解決したのが、今回の正解である「分散表現(単語埋め込み)」です!
分散表現は、言葉を「フワッとした特徴のパラメーター(数十〜数百次元)」に割り当てて、意味の近い単語同士が近くの場所に集まるように地図(空間)を作ります。
イメージとしては、「味、硬さ、大きさ、甘さ」といった複数の物差し(パラメータ)で果物を数値化するようなものです。これにより、有名な「王様 - 男性 + 女性 = 女王」というような、言葉の意味の足し算・引き算ができるようになりました。G検定ではこの「分散表現の特徴」が非常によく狙われます!


■ 選択肢の解説

  • A)(×): ワンホットベクトル同士はすべて直交するため、内積は常に0になり、意味の近さを評価できません。分散表現の代替には使えません。
  • B)(○): 分散表現に関する正しい説明です。高次元空間に単語を配置することで、意味の近さや類推演算(足し算・引き算)が可能になります。本問の正解です。
  • C)(×): BoW(Bag-of-Words)は、単語を「袋」に放り込んだように扱うため、単語の並び順(語順)は無視されます
  • D)(×): TF-IDFにおいて、あらゆる文書に共通して頻出する一般的な単語(「です」「ます」など)は、IDF(逆文書頻度)の値が小さくなるため、評価は低く(重要度が下がるように)調整されます。説明が逆になっているので誤りです。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?