【G検定過去問風】プロンプトチューニングとは?LLMの軽量適応手法を解説
※本記事では、アフィリエイトプログラムより教材を紹介しています。
📝 問題
大規模言語モデル(LLM)の重み自体は一切変更せず、入力プロンプトの先頭に学習可能な仮想のベクトル(ソフトプロンプト)を付加し、そのベクトルのみを最適化する手法として、最も適切な選択肢を1つ選べ。
- A)フルファインチューニング
- B)特徴抽出
- C)プロンプトチューニング
- D)インコンテキスト学習
🔍 ここをクリックして正解を見る
- 正解: C)プロンプトチューニング
💡 合格に近づく!徹底解説
- 重要度: ★★★
■ 1分で分かる!この問題の要点
- 巨大なモデル本体の重みは一切いじらずに、入力文の先頭に「専用の調整用ワード(仮想ベクトル)」を付け足して、その部分のパラメータだけを最適化する手法。
- メモリ消費量を抑えられるPEFT(効率的ファインチューニング)の一種である。
■ 初学者向け解説(例え話や背景)
外国人の優秀な通訳者(巨大AIモデル)に仕事を頼むとき、通訳者の頭脳そのものを改造するのではなく、質問の原稿の冒頭に「この案件はこういう方向性で訳してくださいね」という特別な合言葉(仮想のベクトル)を差し込んで、その合言葉の調整だけを繰り返して精度を高めていくようなイメージです。本体をいじらないため、非常に省エネかつ効率よくモデルをタスクに特化させることができます。
■ 選択肢の解説
- A) フルファインチューニング(×): モデルのすべてのパラメータを再学習する手法です。計算コストが非常に高くなります。
- B) 特徴抽出(×): 事前学習モデルの重みを固定し、中間層の特徴量だけを取り出して別の識別器を学習させる手法です。
- C) プロンプトチューニング(○): 重みは変更せず、入力先頭の学習可能な仮想ベクトルのみを最適化する手法です。
- D) インコンテキスト学習(×): パラメータの更新を行わず、プロンプトにお手本(例文)を含めるだけで推論させる手法です。
👉 次の問題&解説テキスト
お疲れ様です!
この調子で次の問題に挑戦しますか?
それとも、立ち止まって詳しい解説を確認しますか?
