LLM活用・プロンプト

ゼロショット学習 ぜろしょっとがくしゅう

ゼロショット学習Zero-Shot Learning汎用AIプロンプト転移学習LLM
ゼロショット学習について教えて

簡単に言うとこんな感じ!

「一度も例を見せずに新しいタスクをやらせる」のがゼロショット学習だよ!「翻訳例は一切見せないけど、翻訳して」と指示するだけで翻訳できる。事前に大量の知識を身につけたLLMだからこそできる芸当なんだ!


ゼロショット学習とは

ゼロショット学習(Zero-Shot Learning) とは、タスクに関する具体的な例示(学習データ)を全く与えずに、指示だけでモデルがそのタスクをこなす能力です。「ショット(Shot)」は「見せる例の数」を意味し、ゼロ(0)ショットは「例示なし」を意味します。

従来の機械学習では特定のタスクのための学習データが必ず必要でしたが、大規模な事前学習と命令チューニングを受けたLLMは、「翻訳」「要約」「分類」など多様なタスクを指示だけで実行できます。「猫と犬の写真を分類するAI」なら猫・犬の学習データが必要ですが、GPT-4なら「この写真に写っているのは猫ですか?犬ですか?」と聞くだけで答えられます。


ゼロショット指示の例

【感情分析(ゼロショット)】
指示のみ(例示なし):
「以下のレビューの感情を「ポジティブ」「ネガティブ」「ニュートラル」の
 どれか1つで分類してください。

 レビュー: 配送は速かったが商品に傷があった。」

→ LLMの回答: 「ネガティブ」

【コード生成(ゼロショット)】
「Pythonで1から100の素数をリスト形式で出力するコードを書いて。」

→ LLMがコードを生成(例示なし)

歴史と背景

  • 2020年:GPT-3論文でゼロショット・フューショット能力を大規模実験で実証
  • 2021年:CLIPが画像分類でゼロショットを実現し、マルチモーダルに拡張
  • 2022年:ChatGPTでゼロショット能力が一般ユーザーに広く体験
  • 現在:命令チューニングの進化でゼロショット性能がさらに向上

ゼロショット vs フューショット vs ファインチューニング

手法例示数追加学習精度コスト
ゼロショット0なしタスクによる最低
フューショット数件なし中〜高低い
ファインチューニング多数あり最高高い

関連用語