【G検定過去問風テスト】自然言語処理の進化とモデルの役割を総整理

2026年8月3日 2026年8月3日 atsushi_kitazawa

※本記事では、アフィリエイトプログラムより教材を紹介しています。

📝 問題

自然言語処理（NLP）モデルやその応用に関する記述として、最も不適切なものを1つ選べ。

A）Seq2Seqは、EncoderとDecoderの2つのRNNを組み合わせることで、機械翻訳や文章要約など「入力と出力の長さが異なるタスク」を可能にした。
B）ELMoは、双方向LSTMを用いて、文脈によって意味が変わる単語を動的にベクトル化（文脈依存の単語埋め込み）できるようにしたモデルである。
C）PaLMは、Googleが開発した超大規模言語モデル（LLM）であり、パスウェイと呼ばれるアーキテクチャを採用し高い汎用能力を示した。
D）BERTは、文章を左から右へと一方向のみに読み込んで学習するため、文脈の後ろから前の単語への影響を考慮することができない。

🔍 ここをクリックして正解を見る

正解: D）BERTは、文章を左から右へと一方向のみに読み込んで学習するため、文脈の後ろから前の単語への影響を考慮することができない。

💡 合格に近づく！徹底解説

重要度: ★★★

■ 1分で分かる！この問題の要点

BERTはTransformerをベースに「左右の双方向から同時に文脈を考慮」して事前学習を行うモデル。
「一方向のみの読み込み」というのは旧来モデルの特徴であり、BERTの解説としては誤り（不適切）。

■ 初学者向け解説（例え話や背景）

G検定の自然言語処理分野では、これまでに登場した様々なモデルが「どのような課題を解決するために作られたのか」という歴史と特徴のセットがよく問われます。

今回の問題で不正解となっているBERTは、文章を左から右へ一方向だけに読むのではなく、「左右の両方向から同時に文脈をチェックする（双方向）」という画期的な仕組みを持っています。人間が本を読むときも、先の展開を知った上で前の文章の意味を深く理解することがありますが、まさにそれと同じことをAIにできるようにしたのがBERTです。
試験では、「一方向しか読めない（誤り）」と「双方向を同時に考慮できる（正しい）」という表現のすり替えが非常によく狙われるので、しっかりと見分けられるようにしておきましょう！