ゼロショット学習 ぜろしょっとがくしゅう
簡単に言うとこんな感じ!
お手本を1つも見せずに「このレビューが褒めてるか怒ってるか分けて」と頼むだけで、AI がこなしてくれることだよ。いろんな文章や画像を山ほど読んで物知りになったAIだから、初めての頼みごとでも見当をつけられるんだ!
ゼロショット学習とは
ゼロショット学習(Zero-Shot Learning) は、そのタスク専用の例や学習データを1件も与えずに、モデルに仕事をさせることです。「ショット」は見せるお手本の数のこと。お手本ゼロなので「ゼロショット」、数件見せるならフューショットと呼びます。
もともとは画像認識の研究で、学習のときに一度も見ていない種類を当てる技術を指していました。たとえば「シマウマ」の写真を見せたことがなくても、「馬に似ていて、白黒のしま模様」という説明と結びつけて言い当てる、という考え方です。
いまよく耳にするのは、大規模言語モデル(LLM)に指示文だけで仕事を頼む使い方です。翻訳・要約・分類などを、専用の学習なしにプロンプト(指示文)一つで試せます。事前学習で身につけた幅広い知識と、指示に従うよう仕上げる命令チューニングが、これを可能にしています。
ゼロショットの2つのかたち
| かたち | 仕組み | 業務での例 |
|---|---|---|
| 指示だけで頼む | LLM が指示文を読み、知識をもとに答える | 問い合わせの振り分け、議事録の要約、文章の翻訳 |
| 言葉と照らし合わせる | 画像や文章と、候補の名前を同じ物差しの数値(埋め込み)にして近いものを選ぶ | 商品写真の分類、文書のタグ付け |
②の代表が、2021年に発表された CLIP です。ネット上の画像と説明文の組を大量に学んだことで、「〇〇の写真」という候補の言葉を並べるだけで、専用の学習なしに画像を分類できました。
そこが落とし穴なんだ!ゼロショットは「すぐ試せる」のが強みで、精度がいちばん高いとは限らないよ。
AI は「請求」と「故障」の境目を、あなたの会社のルールどおりに知っているわけじゃない。社内の言葉や細かい判断基準が絡むと、外れやすくなるんだ。まずゼロショットで試して、足りなければお手本を数件見せる→それでも足りなければ追加の学習、と段階を踏むのがおすすめだよ!
歴史と背景
- 2009年ごろ:画像認識で、「しま模様」「4本足」などの特徴の説明を手がかりに、見たことのない動物を当てる研究が注目される
- 2013年前後:単語を数値で表す技術と画像を結びつけ、名前だけで新しい種類を見分ける研究が進む
- 2020年:GPT-3 の論文が、例ゼロ・数件でも多くの仕事をこなせることを大規模に示す
- 2021年:CLIP が画像分類でゼロショットを実用的な水準に。同じ年、命令チューニングで LLM のゼロショット性能が上がることも示される(FLAN)
- 2022年:「ステップごとに考えよう」と一言添えるだけで推論の正答率が上がる、という報告が話題に。同年末の ChatGPT で一般にも広く体験される
ゼロショット・フューショット・追加学習の比較
| 方法 | お手本 | 追加の学習 | 準備の手間 | 向いている場面 |
|---|---|---|---|---|
| ゼロショット | なし | なし | 指示文を書くだけ | まず試す、ありふれた仕事 |
| フューショット | 数件 | なし | 良い例を選ぶ | 出力の形や基準をそろえたい |
| ファインチューニング | 数百件〜 | あり | データ作り・費用・管理 | 社内独自の基準、大量処理 |
ゼロショットとフューショットは、どちらもプロンプトの中で仕事を伝えるコンテキスト内学習の一種です。モデル自体は変わらないので、指示文を直せばすぐにやり方を変えられます。
まず選択肢と判断基準をはっきり書くこと!「その他」の選び方や、迷ったときのルールも指示文に入れておこう。
それと、自社のデータ100件くらいで正解率を測るのが大事。ゼロショットはそれっぽい答えを自信満々に返すことがあるから(ハルシネーション)、数字で確かめてから任せる範囲を決めてね。モデルの版が変わると結果も変わるから、定期的に測り直すと安心だよ!
実務のポイント
- 任せたい仕事の選択肢・出力の形・迷ったときのルールを指示文に書いたか
- 自社の実データで、ゼロショットの正解率を数字で確かめたか
- 足りない場合に、フューショット→追加学習と進む判断の基準を決めたか
- 社内の専門用語や略語の意味を、指示文や参考資料で補っているか
- 外れたときに人が確認・修正する流れを用意したか
- 使うモデルの版を記録し、版が変わったら測り直すか
- 送るデータに個人情報や機密が含まれる場合、利用規約とデータの扱いを確かめたか
参考文献・外部リンク
- Language Models are Few-Shot Learners(arXiv) — GPT-3 でゼロショット・フューショットの力を示した論文
- Learning Transferable Visual Models From Natural Language Supervision(arXiv) — 画像のゼロショット分類を実現した CLIP の論文
- Finetuned Language Models Are Zero-Shot Learners(arXiv) — 命令チューニングでゼロショット性能が上がることを示した論文
- Zero-Shot Learning - A Comprehensive Evaluation(arXiv) — 画像の分野のゼロショット学習を整理・比較した論文
- What is Zero-Shot Classification?(Hugging Face) — ゼロショット分類の使い方の解説
- Prompt engineering overview(Claude Docs) — 指示文の書き方の公式ガイド
関連用語
- フューショット学習 — お手本を数件見せて仕事を伝える方法
- コンテキスト内学習 — プロンプトの中で仕事を伝えるやり方の総称
- 命令チューニング — 指示に従う力を高め、ゼロショットを強くする学習
- プロンプトエンジニアリング — 指示文を工夫して答えの質を上げる技術
- 大規模言語モデル(LLM) — 指示だけで多くの仕事をこなす言語モデル
- 転移学習 — 別の仕事で学んだ知識を生かす考え方
- 埋め込み — 画像や言葉を比べられる数値にしたもの
- ファインチューニング — 自社のデータで追加学習して仕上げる方法