【G検定過去問風テスト】「Source-Target Attention」の役割と特徴を解説!

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

機械翻訳などのタスクにおいて、翻訳元の文章と翻訳先の文章の間で計算され、出力側の単語が入力側のどの単語に注目すべきかを決定する仕組みとして、最も適切な選択肢を1つ選べ。

  • A)Source-Target Attention(Encoder-Decoder Attention)
  • B)Self-Attention
  • C)位置エンコーディング
  • D)グローバルアベレージプーリング (GAP)
🔍 ここをクリックして正解を見る
  • 正解: ○)A)Source-Target Attention(Encoder-Decoder Attention)

💡 合格に近づく!徹底解説

  • 重要度: ★★☆

■ 1分で分かる!この問題の要点

  • 「翻訳元の文章(Source)」と「翻訳先の文章(Target)」の間で結びつきを計算するのが「Source-Target Attention(別名:Encoder-Decoder Attention)」。
  • Self-Attentionが「1つの文章の中でのつながり」を見るのに対し、こちらは「異なるデータ(入力と出力)の間のかけ橋」として機能する。

■ 初学者向け解説(例え話や背景)

英語の文章を日本語に翻訳するとき、日本語の「りんご」という単語を生成している瞬間、私たちの頭の中は英語の「apple」という単語に強く注目していますよね。
このように、「いま作っている出力(Target)の言葉が、入力(Source)のどの言葉に対応しているのか」を橋渡しするのが Source-Target Attention(エンコーダ・デコーダ・アテンション)です。Self-Attentionが「身内(同じ文章内)での人間関係」を調べるものなら、Source-Target Attentionは「異文化交流(入力と出力の対応関係)」を調べるものだとイメージすると、すんなり頭に入ります!試験ではそれぞれの違いが問われるため、名前と役割をしっかり区別しておきましょう。


■ 選択肢の解説

  • A) Source-Target Attention(Encoder-Decoder Attention)(○): 入力側の文章と出力側の文章の間で計算され、対応関係を結ぶ仕組みであり、正解です。
  • B) Self-Attention(×): 1つの文章の中で単語同士の関連性を計算する仕組みのことです。
  • C) 位置エンコーディング(×): Transformerにおいて、並列処理によって失われる単語の並び順(位置情報)を補うための技術です。
  • D) グローバルアベレージプーリング (GAP)(×): CNNの出力層で、全結合層の代わりに特徴マップ全体の平均値を計算し、解釈性を高める手法です。

👉 次の問題&解説テキスト

お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?