カリフォルニア州 SB 1047 ── 最先端 AI の安全法案に知事が拒否権

SB 1047 は、カリフォルニア州上院議員 Scott Wiener が提出した、最先端の大規模 AI モデルの開発者に安全対策を義務づける州法案である。正式名は Safe and Secure Innovation for Frontier Artificial Intelligence Models Act。2024年8月に州議会の両院を通過したが、Gavin Newsom 知事は2024年9月29日に拒否権を行使し、法律にはならなかった。拒否の書簡で知事は、最も高価で大規模なモデルだけに焦点を当てる仕組みは、急速に動く技術を制御できているという誤った安心感を公衆に与えうると書いた。

それから1年後の2025年9月29日、Newsom は Wiener の後継法案 SB 53（Transparency in Frontier Artificial Intelligence Act）に署名した。SB 1047 が求めた安全対策の義務は、SB 53 では安全の枠組みの公開と事故の報告という形に変わって成立した。

法案は何を求めたか

法律事務所 Kilpatrick Townsend の2024年9月の解説によれば、法案の中身は次のとおりだった。

Wiener の事務所は、このほか州の公共計算クラスタ CalCompute の創設を法案の柱に挙げた。知事の拒否の書簡によれば、法案は開発を監督する州の機関 Board of Frontier Models も設けるものだった。法案は州下院で2024年8月28日に49対15で可決され、翌29日に上院で最終的に可決された。

賛成と反対

SB 1047 は、AI の安全をめぐる意見が業界の内側で割れていることを、はっきり見せた法案だった。

Anthropic の書簡は、ロイター通信の報道によれば "In our assessment, the new SB 1047 is substantially improved, to the point where we believe its benefits likely outweigh its costs. However, we are not certain of this" と書いている。一方、Pelosi の声明は "The view of many of us in Congress is that SB 1047 is well-intentioned but ill informed." と述べ、AI の規制は連邦議会の超党派タスクフォースで検討が進んでいることを強調した。

Wiener は拒否の数日後、TechCrunch に、これほど誤情報の多い法案は経験がないと語り、反対派が大規模な宣伝活動を展開したと批判した。

知事は何を理由に拒否したか

Newsom の書簡は、AI の規制そのものを否定していない。書簡は、カリフォルニアには世界の主要 AI 企業50社のうち32社があると述べ、大惨事が起きるのを待ってから行動するわけにはいかないという点では法案の提出者に同意すると明記した。そのうえで、拒否の理由を次のように挙げている。

• 規制の線引きを、モデルの開発に要した費用と演算量で決めるのか、実際のリスクで決めるのかが議論の核心である
• 最も高価で大規模なモデルだけに焦点を当てると、誤った安心感を与えうる。小型の特化型モデルも同等以上に危険になりうる
• AI システムが高リスクの環境で使われるか、重要な意思決定や機微なデータを扱うかを考慮せず、大規模なシステムが使えば最も基本的な機能にまで厳しい基準を課す
• 規制は AI システムと能力の実証的な分析に基づくべきだ

書簡は、知事が直前の30日間に、既知の具体的なリスクを扱う十数本の AI 関連法案に署名したことも挙げている。TechCrunch によれば、知事は拒否と同時に、スタンフォード大学の Fei-Fei Li らによる作業部会を立ち上げた。

後継の SB 53

作業部会の報告（2025年3月18日に公表）を土台に、Wiener は SB 53 を提出し、Newsom は2025年9月29日に署名した。知事の発表と Carnegie 国際平和財団の分析によれば、骨子は次のとおりである。

Carnegie の分析は、SB 53 を、新たな責任や停止能力の義務、クラウド事業者への本人確認義務で批判された SB 1047 より軽い手法だと評している。第三者監査の規定は、成立前に法案から削られた。SB 53 は2026年1月1日に施行された。

社会への影響

SB 1047 の拒否と SB 53 の成立は、州が最先端 AI の安全をどこまで規制できるかという問いへの、米国での最初の答えになった。

反対派の多くが主張した、AI は連邦で規制すべきだという立場は、その後、連邦政府自身の政策になった。2025年12月11日、トランプ大統領は大統領令14365「Ensuring a National Policy Framework for Artificial Intelligence」に署名し、司法長官に州の AI 法と争うタスクフォースを30日以内に設けるよう命じ、商務長官に「負担の重い」州法の洗い出しを求めた。大統領令の本文はカリフォルニア州を名指ししていないが、州ごとの規制の「パッチワーク」を問題にしている。

働く人々にとって見落とせないのは、内部告発者保護が SB 1047 から SB 53 へ引き継がれた点である。AI 企業の社員が、規制されていないリスクについて声を上げる手段を法律で守るという発想は、OpenAI の Superalignment チーム解散の後に社員たちが求めたものと重なる。

SB 1047 は、AI の安全性という言葉が、研究者の原則（アシロマ AI 原則）や企業の自主的な約束から、州議会の条文と知事の署名をめぐる政治の問題へ移ったことを示した。拒否されたその法案は、1年後に形を変えて州法になった。