Biden 偽音声ロボコール ── AI 音声の選挙妨害と FCC の裁定

Biden 偽ロボコール事件は、2024年1月21日、米国 New Hampshire 州の大統領予備選挙の2日前に、Joe Biden 大統領に似せた AI 生成の音声で投票を控えるよう促す自動音声電話（ロボコール）が有権者に一斉に送られた事件である。米連邦通信委員会（FCC）は2月8日、AI で生成した音声を使うロボコールは電話消費者保護法（TCPA）の規制対象だとする宣言的裁定を全会一致で公表し、同意のない AI 音声の電話を違法と明確にした。電話を仕掛けた政治コンサルタントの Steve Kramer は FCC から600万ドルの制裁金を科されたが、州の刑事裁判では2025年6月13日に全面無罪となった。

選挙で生成 AI の偽音声が実際に有権者へ届き、規制当局と司法がそれぞれ対応した、米国で初期の大きな事例である。

1月21日、日曜日の電話

FCC の制裁命令によると、予備選挙の2日前の1月21日（日曜日）、数千人の有権者がロボコールを受け取った。メッセージは最後の一文を除き、Biden 大統領の声に似せて人工的に作られた音声だった。AP 通信によれば、音声は Biden がよく使う「What a bunch of malarkey（くだらない）」という言い回しを使い、こう続けた。

It's important that you save your vote for the November election. ... Your votes make a difference in November, not this Tuesday.

（11月の選挙のために票を取っておくことが大事だ。……あなたの票が意味を持つのは11月で、今度の火曜日ではない）

予備選で投票すると11月の本選挙で投票できなくなるかのように示唆した、と検察は主張した。発信者番号は偽装されていた。FCC によると、表示された番号は、Biden への記名投票を呼びかける政治団体に関わっていた元 New Hampshire 州民主党委員長の配偶者が契約している番号だった。この年、民主党全国委員会は Biden の要請で New Hampshire を予備選日程の先頭から外しており、Biden は投票用紙に名前を載せず、記名投票で勝っている。

誰が、どう作ったか

FCC の調査では、Kramer は New Orleans のストリートマジシャンに150ドルを払い、ElevenLabs のウェブサイトで提供されていた音声合成ソフトウェアで Biden に似せた音声を作らせた。電話の発信は Voice Broadcasting が Life Corp. のサービスを使って行い、1月21日午後7時12分までに9,581件の発信を始めていた。一部の電話で、通信経路の最初の事業者になったのは Lingo Telecom だった。

FCC の対応 ── AI 音声は「人工の音声」

FCC の裁定は、TCPA が「人工の、または録音済みの音声」による電話を制限していることに着目し、現在の AI 技術で生成した人の声もこれに含まれると確認した。結果として、そうした電話には緊急目的などの例外を除き、受け手の事前の明示的な同意が必要になる。FCC は発表で、これまで州司法長官は詐欺など電話の結果を追及するしかなかったが、AI で声を生成してロボコールに使う行為そのものが違法になり、州の法執行の手段が広がると説明した。Jessica Rosenworcel 委員長は、悪質な業者が AI 音声で家族からの金銭をゆすり取り、有名人を装い、有権者を誤った情報で惑わせていると述べている。

9月の制裁命令の根拠は、発信者番号の偽装を禁じる Truth in Caller ID Act である。FCC は、30日以内に支払わなければ司法省に回収を委ねるとした。

刑事裁判は無罪

州の側では、Kramer は有権者妨害の重罪11件（各最長7年）と候補者なりすましの罪11件（各最長1年）で起訴された。AP 通信によると、Kramer はメッセージを仕掛けたことを認めたうえで、AI の危険を知らせる「警鐘」のつもりだったと証言した。弁護側は、この予備選は民主党全国委員会が認めていない意味のない人気投票で州の有権者妨害法は適用されず、メッセージに Biden の名はなく、Biden は予備選の正式な候補でもなかったと主張した。陪審は2025年6月13日、すべての罪について無罪とした。New Hampshire 州の John Formella 司法長官は、選挙法の執行への取り組みは揺るがないとの声明を出している。

AP 通信によれば、Kramer は FCC の制裁金を払うつもりはないと語った。

社会への影響

この事件が示したのは、偽の声を作る費用の低さである。FCC の記録では、声の作成に使われたのは150ドルと市販のソフトウェアだった。被害を受けうるのは有権者だけではない。FCC は裁定の背景として、家族の声をまねて高齢者から金銭をだまし取る手口を挙げ、26の州の司法長官がこの裁定を支持する書簡を送ったと Rosenworcel は述べている。

規制の面では、FCC の裁定は新しい法律を作ったのではなく、既存の TCPA を AI に当てはめる解釈だった。そのため対象は電話に限られ、SNS や動画で広がる偽音声には及ばない。刑事裁判の無罪は、既存の選挙法が AI による偽装を想定していなかったことも浮かび上がらせた。AP 通信は、多くの州が選挙運動でのディープフェイクを規制する法律を作った一方、連邦議会下院の共和党が州による AI 規制を10年間禁じる条項を税制法案に加えたと伝えている。偽音声を誰が、どの法律で止めるのかという問いは、連邦と州の間で揺れ続けている。

企業を狙った音声・映像の偽装は ディープフェイクの CFO 詐欺 の記事に、流れは サイバーセキュリティの年表 と AI の年表 にある。