ゼロショット学習 ぜろしょっとがくしゅう
ゼロショット学習Zero-Shot Learning汎用AIプロンプト転移学習LLM
ゼロショット学習について教えて
簡単に言うとこんな感じ!
「一度も例を見せずに新しいタスクをやらせる」のがゼロショット学習だよ!「翻訳例は一切見せないけど、翻訳して」と指示するだけで翻訳できる。事前に大量の知識を身につけたLLMだからこそできる芸当なんだ!
ゼロショット学習とは
ゼロショット学習(Zero-Shot Learning) とは、タスクに関する具体的な例示(学習データ)を全く与えずに、指示だけでモデルがそのタスクをこなす能力です。「ショット(Shot)」は「見せる例の数」を意味し、ゼロ(0)ショットは「例示なし」を意味します。
従来の機械学習では特定のタスクのための学習データが必ず必要でしたが、大規模な事前学習と命令チューニングを受けたLLMは、「翻訳」「要約」「分類」など多様なタスクを指示だけで実行できます。「猫と犬の写真を分類するAI」なら猫・犬の学習データが必要ですが、GPT-4なら「この写真に写っているのは猫ですか?犬ですか?」と聞くだけで答えられます。
ゼロショット指示の例
【感情分析(ゼロショット)】
指示のみ(例示なし):
「以下のレビューの感情を「ポジティブ」「ネガティブ」「ニュートラル」の
どれか1つで分類してください。
レビュー: 配送は速かったが商品に傷があった。」
→ LLMの回答: 「ネガティブ」
【コード生成(ゼロショット)】
「Pythonで1から100の素数をリスト形式で出力するコードを書いて。」
→ LLMがコードを生成(例示なし)
歴史と背景
- 2020年:GPT-3論文でゼロショット・フューショット能力を大規模実験で実証
- 2021年:CLIPが画像分類でゼロショットを実現し、マルチモーダルに拡張
- 2022年:ChatGPTでゼロショット能力が一般ユーザーに広く体験
- 現在:命令チューニングの進化でゼロショット性能がさらに向上
ゼロショット vs フューショット vs ファインチューニング
| 手法 | 例示数 | 追加学習 | 精度 | コスト |
|---|---|---|---|---|
| ゼロショット | 0 | なし | タスクによる | 最低 |
| フューショット | 数件 | なし | 中〜高 | 低い |
| ファインチューニング | 多数 | あり | 最高 | 高い |
関連用語
- フューショット学習 — ゼロショットに少数例示を加えた手法
- コンテキスト内学習 — ゼロショットとフューショットを包含する概念
- 命令チューニング — ゼロショット能力を高めるための学習手法
- プロンプトエンジニアリング — ゼロショット性能を最大化するための技術