AI が作った架空の判例 ── 弁護士の書面から裁判官の命令へ

2026年10月22日、 米国第5巡回区控訴裁判所が、 ミシシッピ州の連邦地裁判事から事件を取り上げた。 Jackson Federation of Teachers 対 Fitch（No. 25-60496）で、 合議体（Smith、 Haynes、 Engelhardt の3判事）は Henry Wingate 判事の仮差止命令を取り消し、 ミシシッピ州南部地区の首席判事に、 事件を別の判事に配点し直すよう命じた。 理由の一つは、 判事の命令に、 訴訟に存在しない当事者や実在しない判例が書かれていたことである。 判事自身は、 書記官が AI を使って下書きしたと説明していた。

生成 AI が作る、 もっともらしいが事実に反する文章 ── ハルシネーション ── が裁判所の記録に入り込む事件は、 まず弁護士の書面で起き、 やがて裁判所の判断そのものに及んだ。 このページはその3つの節目を並べる。

2023年: 弁護士が ChatGPT の判例を出した

最初に広く知られたのは、 機内で金属製のサービスカートが膝に当たって負傷したとして航空会社 Avianca を訴えた事件だった。 2023年3月1日、 原告側の弁護士がニューヨーク南部地区連邦地裁に出した書面に、 実在しない判決が引用されていた。 書面を書いたのは Steven A. Schwartz、 署名して提出したのは同じ事務所の Peter LoDuca である。

P. Kevin Castel 判事は2023年6月22日の「制裁についての意見と命令」で、 2人と事務所 Levidow, Levidow & Oberman が、 AI ツール ChatGPT が作った偽の引用と偽の出典付きの実在しない判決を提出し、 裁判所の命令がその実在に疑いを示したあとも主張を続けたと認定した。 判事は冒頭で "there is nothing inherently improper about using a reliable artificial intelligence tool for assistance"（信頼できる AI ツールを補助に使うこと自体に本質的な問題はない）と書いたうえで、 提出物の正確さを確かめる門番の役割は弁護士にあるとしている。

制裁は、 連帯で5000ドルを裁判所に納めること、 依頼人に命令を送ること、 そして6件の架空の判決（「Varghese」「Shaboon」など）の著者として名前を使われた実在の判事それぞれに、 命令と審問の記録を送ることだった。 判事は、 強制された謝罪は誠実な謝罪ではないとして、 謝罪までは命じていない。

2026年7月: インド最高裁が審判所の決定を取り消す

次の節目では、 架空の判例は弁護士ではなく判断する側の文書に現れた。 インドの国家会社法審判所（NCLT）ムンバイ部は2024年8月28日、 Jammu and Kashmir Bank が Essel Infraprojects に対して起こした倒産手続きの申立てを認めた。 上訴を受けた国家会社法上訴審判所（NCLAT）も2025年9月11日に申立人側の上訴を退けた。

同社の停職中の取締役 Pooja Ramesh Singh が最高裁に上訴すると、 NCLT が依拠した判例そのものが問題になった。 Bar & Bench によると、 最高裁が独自に確かめたところ、 一部の判例はまったく架空で、 ほかは実在する判例に存在しない抜粋を付けたものだった。 Bar & Bench によると、 銀行側は、 それらの判例は自分たちの代理人が引用したものではなく、 審判所が独自の調査で得たものだと宣誓供述書で述べた。

2026年7月2日、 PS Narasimha と Alok Aradhe の両判事は NCLT と NCLAT の判断を取り消し、 申立てを NCLT に差し戻した。 判決は、 検証せずに AI が作った判例を引くことは弁護士の非行であり、 裁判官がそれに依拠するのも重大な落ち度だとして、 次のように述べた。 "It is necessary for Courts to adopt a zero-tolerance mode for producing, citing or using AI-generated precedents without verification."（裁判所は、 AI が作った判例を検証せずに提出し、 引用し、 使うことに対し、 ゼロ・トレランスで臨む必要がある）。 そのような判断は法の目から見て判断ではない、 とまで書いている。 インド弁護士評議会には、 委員会を作って懲戒の基準を定めるよう命じた。

判決は同時に、 AI を裁判の補助に使う方針は変えず、 判断の管理は人間が握り続けるとも述べている。 AI が生む偽の判例を判例として使うことを "like the release of methyl isocyanate in the province of law and justice"（法と正義の領域にイソシアン酸メチルを放つようなもの）と表現した。

2026年10月: 米控訴裁が判事を交代させる

ミシシッピ州は2025年4月、 公立の教育機関が DEI（多様性・公平性・包摂）の研修や取り組みを義務づけることなどを禁じる州法 H.B. 1193 を制定した。 教員団体や学生、 保護者らは6月に、 施行前の段階で法律そのものの違憲性を争う訴えを起こした。

Wingate 判事は2025年7月20日に法律の施行を止める一時差止命令（TRO）を出した。 控訴裁の判決によると、 この命令は、 訴訟の当事者になったことのない11の個人・団体を原告として挙げ、 訴えられていない2人の州職員を被告とし、 記録にない4人の「宣誓供述書」を引き、 州法の条文を存在しない文言で引用していた。 州側が7月22日に訂正を求めると、 判事は理由を示さないまま命令を差し替え、 新しい版の日付を7月20日にさかのぼらせた。 元の命令を記録に戻すよう求める申立ては、 誤りは「事務的なもの」だとして退けられた。

2025年10月、 上院司法委員会の Chuck Grassley 委員長がこの命令に AI が使われたのではないかと問いただし、 判事は書記官が AI を使って下書きした初期の版が誤って記録に載ったと説明した。 Mississippi Today と ABA Journal によると、 判事の書簡はその AI を Perplexity と特定している。 同じ時期、 ニュージャージー州の連邦地裁判事も、 法科大学院生のインターンが ChatGPT を使ったと Grassley に説明した。 Mississippi Today によると、 連邦裁判所事務局の長官は AI の利用方針を検討する作業部会を設けたと書簡で伝えた。

その間に判事は8月18日に仮差止命令を出し、 州側が控訴した。 控訴審の口頭弁論で、 訂正後の TRO にもなお、 実在しない第4巡回区の判例「Cousins v. School Bd. of City of Norfolk」が引かれていることが分かった。 仮差止命令は TRO の議論を参照で取り込んでいたので、 この架空の判例も引き継いでいた。

Jerry E. Smith 判事の法廷意見は厳しい。 地裁の手続きを "a botch job, to say the least"（控えめに言ってもずさんな仕事）と呼び、 誤りを指摘されたあとも判事は架空の記述は判断に影響していないと言い張るだけで、 なぜそれが命令に入ったのかを説明しなかったと書いた。 そのうえで、 判事の法律判断そのものにも誤りがあったとして、 新しい判事には連邦最高裁の Moody 判決と第5巡回区の判例に沿って審理するよう指示している。 再配点の理由として挙げられたのは、 架空の記述を取り除いただけで結論を維持したことから見て、 判事が以前の判断を離れるのは難しいだろうという点と、 同じ判事に差し戻せば司法への信頼が損なわれるという点だった。 Haynes 判事は、 取り消し・差し戻し・再配点を命じた最後の段落にだけ同意する補足意見を書いた。

何が変わったのか

3つの事件で、 偽の判例を持ち込んだ者は変わっていった。 2023年は弁護士だった。 2026年7月のインドでは、 銀行側の主張によれば審判所自身の調査だった。 2026年10月の米国では、 判事の書記官が下書きに AI を使っていた。 対応も、 弁護士への5000ドルの制裁から、 判断の取り消しへ、 そして判事を事件から外すことへと重くなっている。

どの裁判所も AI の利用そのものを禁じてはいない。 Castel 判事は信頼できる AI の補助に問題はないと書き、 インド最高裁は AI を裁判の補助に使う姿勢を明言した。 問われたのは、 出力を確かめずに記録へ載せた人間の側の責任である。 AI と社会の関わりの全体は AI と社会の年表 にある。 チャットボットの出力そのものの法的責任が争われた例は Character.AI 訴訟 を参照。