Bletchley AI 安全サミット ── 28か国と EU がフロンティア AI のリスクを認めた

AI 安全サミット（AI Safety Summit）は、英国政府が2023年11月1〜2日にロンドン北西の Bletchley Park で開いた、高度な AI のリスクを主題とする初の国際首脳級会議である。初日の11月1日、米国・中国・日本を含む28か国と EU が Bletchley 宣言に合意し、最先端の AI が「深刻な、さらには壊滅的な」害をもたらす可能性を共同で認めた。2日目には英国が AI Safety Institute（AI 安全研究所）の発足を発表し、政府と AI 企業がモデルの公開前後の安全性テストで協力する計画をまとめた。会場は、第二次世界大戦中に Alan Turing らが暗号解読に携わった場所である。

主催は Rishi Sunak 首相の政権だった。この会議は、同年3月の 一時停止の公開書簡 や10月30日の米国の Biden 大統領令、同じ日の G7 広島 AI プロセス の国際指針と並ぶ、2023年の AI 統治の動きの1つである。

Bletchley 宣言の中身

宣言はまず、AI が住宅、雇用、交通、教育、医療、司法など日常のさまざまな領域ですでに使われていることを確認し、人権、透明性、公平性、偏りの緩和、プライバシーといった課題に取り組む必要を挙げた。そのうえで、特に安全上のリスクが生じるのは AI の「フロンティア」だとした。宣言の定義では、多様な課題をこなせる高性能な汎用 AI モデル（基盤モデルを含む）と、害をもたらしうる能力をもつ特化型 AI のうち、現在の最先端モデルに並ぶか上回るものを指す。

リスクの源として名指しされたのは、意図的な悪用と、人間の意図との整合（アラインメント）に関わる制御の問題である。分野ではサイバーセキュリティ、バイオテクノロジー、偽情報の増幅が特に懸念された。宣言の一節はこうである。

There is potential for serious, even catastrophic, harm, either deliberate or unintentional, stemming from the most significant capabilities of these AI models.

（これらの AI モデルの最も重大な能力から、意図的であれ意図せざるものであれ、深刻な、さらには壊滅的な害が生じる可能性がある）

宣言は、こうしたリスクは本質的に国際的で、国際協力によって最もよく対処できるとした。一方で、各国の事情に応じたイノベーション重視で釣り合いのとれた規制の重要性も認めている。拘束力のある義務は含まれていない。

署名国

英国政府の公表した一覧は次の28か国と EU である。2024年10月23日にはニュージーランドが加わった。

米国と中国がそろって同じ文書に署名したことは、英国政府の発表でも強調された点だった。

2日目 ── 安全研究所と「公開前テスト」

11月2日、英国政府は、4か月にわたってフロンティアモデルの評価チームを築いてきた Frontier AI Taskforce を常設の AI Safety Institute に改めると発表し、Ian Hogarth が引き続き議長を務めるとした。英国政府はこれを世界初の AI 安全研究所と称している。研究所の役割は、新しい種類のフロンティア AI を公開の前後に試験し、偏りや偽情報といった社会的な害から、人類が AI の制御を完全に失うという極端なリスクまで調べることとされた。英国は米国の AI 安全研究所、シンガポール政府とも提携に合意した。米国の研究所は、前日に Gina Raimondo 商務長官が設立を発表したものである。

同じ日には、参加国の政府と主要な AI 企業が、次世代モデルを公開の前後に試験することで協力するという声明に合意した。英国政府の説明では、これは、フロンティア AI の安全性を判断する責任を企業だけに負わせる状態から一歩離れることを意味した。各国はまた、チューリング賞受賞者の Yoshua Bengio がフロンティア AI の能力とリスクに関する科学的な現状報告をまとめることを支持した。

「見過ごされた機会」という批判

開催前から批判もあった。英国労働組合会議（TUC）、Connected by Data、Open Rights Group が呼びかけ、100を超える団体・専門家が Sunak 首相に公開書簡を送った。米国の AFL-CIO、国際労働組合総連合、Amnesty International、Mozilla、AI Now Institute なども名を連ねている。書簡は、AI に最も影響を受ける地域社会と労働者がサミットから取り残されていると訴え、市民社会の関与は選別的で限られていたとして「This is a missed opportunity.（これは見過ごされた機会だ）」と書いた。Open Rights Group は、議題が未来の破滅的なリスクに偏り、政府機関がすでに導入している自動化された意思決定による誤りや偏りといった、いま起きている害を軽視していると批判した。

Seoul、Paris、そしてその後

サミットは連続した国際会議の第1回になった。

Seoul で各社が約束したのは、自社のフロンティアモデルのリスクを測る安全枠組みを公表し、緩和策でリスクを許容範囲内に収められない場合は、極端な状況ではモデルを開発・配備しないことだった。Paris では議題が安全から投資と産業へ移った。Al Jazeera によると、宣言は AI を開かれた、包摂的で倫理的なものにする方針などを掲げたが、米国の JD Vance 副大統領は演説で、過剰な規制が変革的な産業を潰しかねないと欧州を批判した。英国の Keir Starmer 首相の報道官は、宣言が国際的な統治について実務的な明確さを欠き、安全保障をめぐる難しい問題に十分に答えていないと説明した。その4日後、英国は研究所を AI Security Institute に改称し、偏りや言論の自由は扱わず、生物・化学兵器やサイバー攻撃、詐欺などの深刻なリスクに絞ると発表した。

社会への影響

Bletchley が変えたのは、フロンティア AI の安全性を国家が評価するという発想を、具体的な組織として各国に広げたことである。英国、米国、日本などに政府系の研究所ができ、企業は公開前のモデルを政府に見せるという慣行を受け入れ始めた。日本の AISI の説明も、英米の研究所の設立と国際的な枠組みづくりを設立の背景に挙げている。

一方で、誰の声が届いたかには偏りがあった。招かれたのは政府と大手 AI 企業が中心で、労働組合や人権団体は外から批判する立場に置かれた。宣言自体は日常生活での AI の害にも触れたが、2日間の成果として形になったのは、フロンティアモデルの試験という、開発企業と政府の間の仕組みだった。そして2025年には、安全という言葉そのものが英国の研究所の名前から外れる。サミットが作った枠組みは残ったが、その重心は各国の政権の優先順位とともに動き続けている。

流れは AI の年表 で追える。