T1#open-source#research
Meta の LLaMA ── 研究者向けの公開、流出、そしてオープンウェイト論争

メタデータ
- 日付
- 年代
- 2020s
- Tier
- T1
- 参照年表
- AIの歴史 · オープンソースの歴史
- 出典数
- 12
- 関連項目
- 07
- Tags
- #open-source#research
LLaMA(Large Language Model Meta AI)は、Meta が2023年2月24日に発表した 大規模言語モデル である。70億・130億・330億・650億パラメータの4種類を、非商用の研究用ライセンスで、申請した研究者などに個別審査のうえ提供した。ところが提供開始から約1週間後の3月3日、モデルの重みが匿名掲示板 4chan に流出し、誰でも手元で動かせる状態になった。この流出と、7月18日に商用利用も認めて公開された後継の Llama 2 は、AI モデルの重みを公開すべきかという「オープン対クローズド」論争の中心になった。
ChatGPT の公開 から3か月足らずの時期で、強力な言語モデルは OpenAI や Google のような一部の企業の API の向こうにしかない、という状況が崩れ始めた転機でもある。
2023年2月の発表
Meta の発表は、LLaMA を研究者の仕事を後押しする「基盤モデル」と位置づけた。大規模なインフラを持たない研究者でも扱える小さく高性能なモデルを出すことで、この分野へのアクセスを「民主化」するという説明である。
| 項目 | 内容 |
|---|---|
| 発表 | 2023年2月24日(論文の arXiv 公開は2月27日) |
| サイズ | 70億、130億、330億、650億パラメータ |
| 学習データ量 | 650億・330億版は1.4兆トークン、70億版は1兆トークン |
| 言語 | 話者の多い20言語(ラテン文字とキリル文字の言語が中心) |
| ライセンス | 研究用途に限る非商用ライセンス |
| 提供方法 | 学術・政府・市民社会・産業の研究機関などに個別審査で提供 |
論文「LLaMA: Open and Efficient Foundation Language Models」は、独自の非公開データを使わず公開データだけで最先端のモデルを訓練できることを示したと主張し、130億パラメータ版が多くのベンチマークで GPT-3(1750億)を上回り、650億版は Chinchilla-70B や PaLM-540B と競えるとした。いずれも Meta の研究者自身の評価である。学習言語の中心がラテン文字とキリル文字の言語だったことは、日本語での利用には別途の工夫が必要だったことも意味する。
3月3日の流出
The Verge によれば、Meta が申請の受け付けを始めてわずか1週間後の3月3日、ダウンロード可能なトレントが 4chan に投稿され、さまざまな AI コミュニティに広がった。同誌が取材した複数の研究者は、流出したものが本物だと確認している。
反応は割れた。サイバーセキュリティ研究者の Jeffrey Ladish は、個人に合わせたスパムやフィッシングの増加に備えよと書き、"Open sourcing these models was a terrible idea." と述べた。一方、Sayash Kapoor と Arvind Narayanan は、言語モデルの悪用の波が来ると言われ続けてきたが、記録された事例は見当たらないと反論した。Meta が技術を配りすぎたと責める声と、開かれたアクセスこそ安全対策の開発に必要だとする声の対立である。
流出した重みは、すぐに研究の土台になった。スタンフォード大学の研究者は3月13日、LLaMA 7B を5万2000件の指示応答例で微調整した Alpaca を発表し、単発の指示への応答では OpenAI の text-davinci-003 と質的に似た振る舞いをしながら、600ドル未満で再現できるとした。ただし公開デモは、運用費とコンテンツフィルターの不十分さを理由に後に停止されている。
政治も反応した。Decrypt によれば、米上院のプライバシー・技術・法小委員会の委員長 Richard Blumenthal と筆頭理事 Josh Hawley は6月6日、Zuckerberg に書簡を送り、スパム、詐欺、マルウェア、プライバシー侵害、嫌がらせなどへの悪用の可能性を挙げて、公開前にどうリスクを評価したのかを問うた。
7月18日の Llama 2 と「オープンソース」の定義
Meta は2023年7月18日、Microsoft を優先パートナーとして Llama 2 を公開した。70億・130億・700億パラメータの事前学習モデルと対話向けに微調整したモデルの重みを、研究にも商用にも無償で使えるようにし、Azure、AWS、Hugging Face などからも入手できるようにした。Meta は発表で、Llama 1 には研究者から10万件を超えるアクセス申請があったと書いている。
| 日付 | 出来事 |
|---|---|
| 2023年2月24日 | LLaMA を研究者向けに発表 |
| 2023年3月3日 | 重みのトレントが 4chan に投稿される |
| 2023年3月13日 | スタンフォード大学が Alpaca を発表 |
| 2023年6月6日 | 上院議員2人が Zuckerberg に書簡 |
| 2023年7月18日 | Llama 2 を研究・商用とも無償で公開 |
| 2023年7月20日 | Open Source Initiative が「オープンソースではない」と表明 |
| 2023年8月29日 | ELYZA が Llama 2 ベースの日本語モデルを公開 |
Meta は Llama 2 を「オープンソース」と呼んだが、ライセンス第2条は、Llama 2 の公開日の前月に月間アクティブユーザーが7億人を超えていた事業者に対し、Meta の裁量で与えられる許諾を別途求めている。オープンソースの定義を管理する Open Source Initiative(OSI)は7月20日、このライセンスは一部の利用者の商用利用を制限し、利用規約で特定の用途も禁じているため、人や分野を差別しないという定義を満たさないと表明した。OSI は、Meta が「オープンソース」と「一部の利用者に条件付きで使える資源」を混同していると書いた。以後、重みだけが公開されたモデルは「オープンウェイト」と呼ばれることが増えた。
日本への波及
商用利用が認められたことで、日本でも Llama 2 を土台にした日本語モデルが作られた。ELYZA は2023年8月29日、Llama 2 に日本語で追加の事前学習を施した70億パラメータの ELYZA-japanese-Llama-2-7b などを、Llama 2 のライセンスと利用規約に従う限り研究・商用に使える形で公開した。同社は性能を GPT-3.5(text-davinci-003)に匹敵し、公開されている日本語モデルの中で最高水準だと説明している。自前で巨大なモデルを一から学習する資金を持たない企業や研究機関にとって、公開された重みを出発点にできることの意味は大きかった。
社会にとって何を意味したか ── その後の揺り戻しまで
LLaMA が開いたのは、能力の高いモデルを誰が持ち、誰が検証し、誰が責任を負うのかという問いである。Zuckerberg は2024年7月23日の書簡「Open Source AI is the Path Forward」で、かつて閉じた Unix に Linux が勝ったように AI も開かれたモデルが標準になると論じ、4050億パラメータの Llama 3.1 を公開した。中国の DeepSeek は2025年1月、DeepSeek-R1 を蒸留した小型モデルの一部を Llama の上に作っている。
一方で Meta 自身の姿勢は変わっていった。Zuckerberg は2025年7月30日の文書で、超知能は新しい安全上の懸念を生むため、何をオープンソースにするかは慎重に選ぶ必要があると書いた。Fortune によれば、Meta は2026年4月8日、新設の Meta Superintelligence Labs が作った最初のモデル Muse Spark を、重みを公開せず自社のアプリと一部パートナー向けの API でのみ提供する形で発表した。同誌は、2025年4月の Llama 4 が期待外れと広く評され、Meta がベンチマークに一般公開版とは別の調整版を使っていたと認めたことにも触れている。Meta は将来の版のオープン化を望むとしているが、2023年に始まった開かれた重みの路線は、その旗手だった企業の中でも問い直されている。
同じ年の AI の出来事は AI の年表 と オープンソースの年表 に、会社の歩みは Meta のページにある。
よくある質問
- LLaMA はいつ公開されたのですか。
- Meta が2023年2月24日に発表し、研究者などから申請を受けて個別に提供を始めました。論文は2月27日に arXiv に公開されています。誰でも商用に使える後継の Llama 2 は2023年7月18日に公開されました。
- LLaMA の流出とは何ですか。
- Meta が申請者への提供を始めて約1週間後の2023年3月3日、モデルの重みをダウンロードできるトレントが匿名掲示板 4chan に投稿され、AI コミュニティに広がった出来事です。The Verge によれば、悪用を懸念して Meta の配布方法を批判する声と、開かれた利用は安全性研究に必要だとする声に分かれました。
- Llama 2 はオープンソースですか。
- Meta はオープンソースと呼びましたが、Open Source Initiative は2023年7月20日、そうではないと表明しました。ライセンスが、月間アクティブユーザー7億人超の事業者には Meta の許諾を別途求め、利用目的も制限しているため、特定の人や分野を差別しないというオープンソースの定義を満たさないという理由です。重みが公開されているという意味で、オープンウェイトと呼ばれることが多くなりました。
- 日本では LLaMA はどう使われたのですか。
- 例えば日本の AI 企業 ELYZA は2023年8月29日、Llama 2 に日本語で追加の事前学習を施した70億パラメータのモデル ELYZA-japanese-Llama-2-7b などを、Llama 2 のライセンスに従う形で商用利用可能として公開しました。同社は性能を GPT-3.5(text-davinci-003)に匹敵すると説明しています。
出典
4つのサイズ、学習トークン数、話者の多い20言語、非商用ライセンスと個別審査での提供、「民主化」の説明
3月3日の 4chan へのトレント投稿、Jeffrey Ladish と Kapoor・Narayanan の反応
一次資料Meta and Microsoft Introduce the Next Generation of Llama — Meta, 18 July 2023
研究・商用とも無償、Microsoft を優先パートナーに、Llama 1 への10万件超のアクセス申請
一次資料Llama 2 Community License Agreement — Meta (Llama 2 version release date 18 July 2023)
第2条の追加商用条件(月間アクティブユーザー7億人超)
最終更新: