ホーム / Critical Brief / No. 060

AI が作った「実在しない判例」を、対立する双方の弁護士が裁判所に提出した（ミシシッピ連邦地裁）

AI が示した引用元の実在性・来歴が、書面提出の前に独立検証されない構造（Rule 11）

Pillar 02 · 検証可能 AI AI 判断の完全性 データ来歴
事案日
2026-06-08
公開日
2026-06-16
発行
Lemma Critical Team
関連 Pack
Pack AIncident Response

TL;DR

弁護士が AI で下調べをして書面を作る——いまや珍しくない作業だ。だが、AI が挙げた判例が実在するかを誰も確かめないまま裁判所へ出すと、何が起きるか。2026 年 6 月 8 日、ミシシッピ州北部連邦地裁の Sharion Aycock 判事は、ある民事訴訟で対立する双方の弁護士が、いずれも AI が生成した「実在しない判例」を書面に引用していたことを認定し、4 人の弁護士を Rule 11 違反で制裁、公判を取り消した。書面を起草した州外弁護士 2 名は罰金と 2 年間の出廷禁止、その出廷を保証して署名した地元弁護士 2 名も「ラバースタンプ（盲判）」として制裁された。判事は「双方の代理人が同種の制裁対象行為に及んだ異例の事態」と述べ、技術への盲目的依拠が各書面に幻覚的な引用をもたらしたと認定した。問題は「弁護士が AI を使ったこと」ではなく、AI が示した引用元（判例）が実在し・正しい出所を持つことを、書面を提出するという行動の前に独立検証する層が無かったことにある。本事案を Pillar 02（検証可能 AI）の観点から、AI 出力の根拠の実在性・来歴が独立検証されない構造として、検出・制裁との役割分担で分析する。Brief 005（AI が読む入力の完全性）・011（AI 生成物の来歴標識）・012（AI 判定が独立検証なく法的処分に直結）・017（AI を統治する層に完全性も来歴もない）に連なる。

事案概要

  • 対象訴訟: Withers 対 Aberdeen 市（弁護士報酬の未払いをめぐる民事訴訟）。米国ミシシッピ州北部連邦地方裁判所（事件番号 1:24-cv-00218）
  • 担当判事: Sharion Aycock 連邦地裁判事（Senior U.S. District Judge）
  • 事象: 原告側・被告側の双方で、州外から一時出廷（pro hac vice）した弁護士が AI ツールを調査・起草に用い、その出力を検証しないまま、**実在しない判例（hallucinatory citations）**を含む書面を提出した。両者は申し合わせなく、それぞれ同種の行為に及んだ
  • 法的根拠: 連邦民事訴訟規則 Rule 11（提出書面の正確性を代理人が証明する義務）の違反
  • 処分: 双方から計 4 名の弁護士を事件から排除し、公判を取り消し。Kathleen M. Wilson（原告側・州外 pro hac vice／一時出廷資格を取消・北部地区での出廷を 2 年間禁止・罰金 2,500 ドル）、Kathryn Y. Williams（被告側・州外 pro hac vice／同取消・2 年間禁止・罰金 3,500 ドル）、両名の一時出廷を保証し書面に署名した地元弁護士 Shauncey Hunter Ridgeway と Mark McClinton（各罰金 1,000 ドル・事件から排除）
  • 裁判所の枠組み: 判事は、地元弁護士が州外代理人の書面を「ラバースタンプ（盲判）」したことを問題の核心と位置づけた。署名は Rule 11 上、内容の正確性を代理人が証明する行為だが、その証明は根拠の実在性を独立に確かめないまま行われた
  • 核心: 書面に引用された判例が「実在し、正しい出所を持つ」ことは、提出という行動の前に独立検証されていなかった。検証は、判事・相手方が事後に気づき、制裁する段階まで作動しなかった

タイムライン

  • 2024: Withers 対 Aberdeen 市の訴訟が係属（弁護士報酬の未払いをめぐる争い）
  • 2026 前半: 双方の州外弁護士が、AI を用いて作成した書面を提出。書面には実在しない判例の引用が含まれていた。地元弁護士はそれぞれの書面に署名した
  • 2026-01-20: 審尋（hearing）。Wilson と Williams が AI の使用を認め、いずれも提出前に引用の実在性を検証していなかったと述べた
  • 2026-06-08: Aycock 判事が制裁命令に署名。双方の代理人計 4 名を Rule 11 違反で制裁し、公判を取り消し（報道は 6 月 9 日）。連邦裁が対立当事者の双方を同一の AI 誤用で同時に制裁した異例の事態として広く報じられた

注: 罰金額・出廷禁止の対象者・排除の区分は制裁命令（CourtListener 上の Withers v. City of Aberdeen, No. 1:24-cv-00218 ドケット）に基づく。本 Brief は個々の弁護士の非難を目的とせず、AI 出力の根拠が行動前に独立検証されない構造を扱う。

事象連鎖：AI が示した根拠が、検証されないまま行動になるまで

本事象は、AI が示した引用元の実在性・来歴が、それを根拠に行動（書面の提出）する前に独立検証されない構造に起因する。失敗が制裁へ伝播する経路は以下の通り。

  1. AI による生成: 弁護士が AI ツールに調査・起草を委ね、AI が主張を支える判例の引用を生成する。引用は本物らしい体裁を備えるが、実在の保証はない
  2. 根拠の無検証: 生成された引用元（判例）が実在し、引用内容が正しいかは、提出の前に独立検証されない。AI 出力の体裁が、根拠の真正性と同一視される
  3. 署名による証明の素通り: 地元弁護士が州外代理人の書面に署名する。署名は Rule 11 上「内容の正確性を証明する」行為だが、根拠の実在性を独立に確かめないまま行われ、判事のいう「ラバースタンプ（盲判）」になる
  4. 行動への転化: 実在しない判例を含む書面が、裁判所へ提出される。提出と署名は代理人による正確性の自己証明であり、根拠の真偽がそのまま法的手続に持ち込まれる
  5. 双方での反復: 対立する双方が、申し合わせなく同種の行為に及ぶ。AI を介した「根拠の無検証」が、特定の一方の過失ではなく、手続全体の前提として現れる
  6. 事後の検出と制裁: 判事・相手方が幻覚的な引用に気づき、Rule 11 制裁と公判取消に至る。これは書面が提出された後に作動する事後の系列である

構造的論点

本事象は Pillar 02（検証可能 AI）の ai-decision-integrity カテゴリに属する。中心的な失敗 primitive は、AI が示した引用元（根拠）の実在性と来歴が、それを根拠に行動する前に独立検証可能な証跡として固定されておらず、出力の体裁が根拠の真正性と同一視される点にある。secondary に data-provenance（引用元という根拠の出所・来歴）を併記する。

論点は「弁護士が AI を使ったこと」そのものではない。AI による調査・起草は実務に定着しつつあり、それ自体は生産性に資する。欠けていたのは、AI が挙げた根拠を実務に出す前に、その実在性と出所を独立に確かめる層である。この層があれば、AI を使うこと自体は問題にならない。むしろ、根拠の真正性が行動前に独立検証されるなら、AI 活用と実務上の信頼は両立する。判事が「ラバースタンプ（盲判）」を核心に据えたことは、この点を裏づける。署名による正確性の証明は、根拠の実在性を独立に確かめる層がなければ、形式だけが残り、誤った根拠を素通りさせる。

Brief 005（Noroboto／フォント偽装で AI が読む入力と人間が見る入力が乖離）と同型で、AI 判断の入出力の真正性が、独立した層として検証されていない構造である。005 が AI への「入力」の完全性、本事案が AI からの「出力（根拠の引用）」の実在性・来歴という、同じ thesis の別断面にあたる。Brief 011（SynthID／AI 生成物の来歴標識が剥がせる）とは、AI 生成物の来歴が独立検証可能な形で固定されない点で連なる。Brief 012（顔認識の AI 判定が独立検証なく行政の強制処分に直結した）とも、AI の出力が独立検証を欠いたまま法的手続・処分に直結する点で同型であり、本事案はそれを司法手続の根拠（判例）へ移す。Brief 017（McKinsey Lilli／AI を統治する層に完全性も来歴もない）とも、AI 出力の信頼を支える来歴層の不在という点で接続する。

「対立する双方が同時に同じ誤用に及んだ」ことは、論点を際立たせる。これは個々の代理人の注意不足に還元しきれない。AI が示した根拠を行動前に独立検証する層が手続全体に欠けているとき、誤用は一方の過失ではなく、手続の構造的な前提として双方に現れる。

検出と証明の落差

判事による精査、相手方の指摘、Rule 11 に基づく制裁は、誤った書面の是正と再発抑止に不可欠であり、本 Brief がその役割を否定するものではない。司法手続における事後の検出と制裁は、AI 誤用に対する重要な歯止めである。

一方で、検出は「いま提出しようとしている書面の根拠が、実在し正しい出所を持つか」を、行動の前に独立に立証する材料にはならない。実在しない判例の引用は、書面上は本物らしい体裁を備え、提出時には正規の主張と区別がつかない。判事や相手方が気づくのは、書面が提出され、手続に持ち込まれた後である。Rule 11 は代理人に正確性の証明を義務づけるが、それは提出者の自己証明であり、根拠の実在性を独立に裏づける外部の層ではない。地元弁護士による署名すら「盲判」になりうることが、自己証明だけでは根拠の実在性を担保できないことを示している。欠けていたのは「この引用元は実在し、引用内容はその出所に由来する」ことを、行動の前に独立検証可能な証跡として固定する仕組みであり、これは事後の精査・制裁とは別系統である。

事前証明（pre-execution attestation）の発想は、AI が示した根拠を「事後に人手で照合する」から「行動の前に、根拠の実在性と来歴を独立検証可能な証跡に固定する」へ反転させる。AI が引用する根拠（判例・条文・出典）を、その実在する出所に来歴としてバインドし、実在性と引用の整合を行為の時点で独立検証可能にすれば、根拠を欠く出力は提出という行動の前に弾かれる。誤りの検出（detection 的な「何が間違っていたか」）と根拠の証明（「その根拠は実在し、出所に由来すると独立検証されていたか」）は代替ではなく 補完 の関係にある。AI が用いた根拠の出所を独立検証する考え方は、RAG（検索拡張生成）の出典を認証する設計に直結する（検出と事前証明の thesis は 「AI 時代のサイバー防衛に残された、最後の層」（Lemma、2026-05）、行為時点で来歴を独立検証する考え方は 「Proof-as-Auth: 鍵を一度も送らずにサインインする」（Lemma、2026-05）を参照）。

対応経緯と業界動向

  • 裁判所 / Rule 11: Aycock 判事は双方の代理人を制裁し公判を取り消した。Rule 11 は提出書面の正確性を代理人に証明させる枠組みだが、本事案は、自己証明だけでは AI が生成した根拠の実在性を独立に担保できないこと、とりわけ地元弁護士の署名が「盲判」になりうることを示した
  • 司法における AI ガイダンス: 法廷・法律実務における生成 AI の利用と、引用の検証義務をめぐる指針整備が各国・各法域で進んでいる。AI 利用の禁止ではなく、出力（とくに引用元）の検証を実務手順へ組み込む方向が論点になっている
  • 業界横断の論点: AI が示した根拠（出典・引用・データソース）を、実務に出す前に独立検証する要請は、司法に限らない。契約書・監査・調達・行政手続など、AI の出力を根拠に意思決定する全領域で、出典の実在性・来歴の検証が新たな必須要件として浮上している（RAG ソース認証の文脈）

AI が示した根拠を行動前に独立検証する層の不在は、特定の弁護士・事務所の問題ではなく、AI を実務の意思決定に組み込む組織横断の課題として残っている。

Lemma による分析

本事象で露呈した落差（AI が示した引用元の実在性・来歴が、実務に出す前に独立検証されない）に対して、Lemma は、AI が判断・主張に用いた根拠を、行為の時点で独立検証可能な暗号証明として固定する設計を提示している。

  • 出典の来歴バインド（RAG ソース認証）: AI が引用する根拠（判例・条文・データソース）を、実在する出所に docHash で来歴バインドし、「この引用元は実在し、引用内容はその出所に由来する」ことを行為の時点で独立検証可能にする
  • 根拠なき出力のゲート: 提出・確定などの行動を、根拠の実在性・来歴の独立検証可能な証明を満たした場合に限り実行できる設計を志向する。実在しない根拠に基づく出力は、行動の前に弾かれる
  • 記録の真正性証明: AI の出力と、それが依拠した根拠を発行時点にバインドし、事後の照合に依存せず、「どの出力が・どの根拠に基づくか」を独立検証可能にする
  • 選択的開示: 内部のプロンプト・モデル実装を出さずに、「この出力の根拠は実在し、検証条件を満たした」ことだけを最小開示し、独立検証と機微情報保護を両立する

これにより、行為の時点で固定された証明が、「この主張は実在する根拠に基づき、その来歴は検証可能か」を、事後の人手照合に依存せず独立検証可能なトレイルとして機能させる。検出（事後の精査・制裁）は誤りの是正に、事前証明（行為時点の根拠の独立検証）は AI 出力の信頼の確立に、それぞれ相補的に働く。AI を使うこと自体を退けるのではなく、根拠を重ねて確かめられるようにすることで、AI 活用と実務上の信頼を両立させる。設計と適用範囲は、Pillar 02 — 検証可能 AI、RAG ソース認証、Trust402 を参照のこと。

Sources

Brief 配布について

Lemma Critical Brief は Lemma が発行する脅威インテリジェンス・ブリーフです。本資料は公開情報の構造化分析であり、特定の組織への監査・診断・推奨ではありません。意思決定の参考として用いる場合は、貴組織の Lemma Critical 担当に直接ご相談ください。

Discovery Call → ホワイトペーパー → ✉️ ニュースレター →

(c) 2026 FRAME00, INC. — Built for decisions that matter.

関連 Brief
AI 判断の完全性の全 20 件を見る
No. 061 · 2026-06-17

AI の自動ブレーキが、危険がないのに勝手に作動し追突を招いた（Hyundai）

人間の運転に割り込む AI 判断が、行動の前に独立検証されない構造（Hyundai / NHTSA）

AI 判断の完全性 データ来歴
Brief →
No. 042 · 2026-06-17

自動運転車が、停止中のスクールバスを止まらずに通り過ぎた（Waymo）

走行判断が、安全に関わる行動の前に独立検証されない構造（Waymo / NHTSA）

AI 判断の完全性 データ来歴
Brief →
No. 055 · 2026-06-15

命令の出所を検証しないまま、AI が社内データを送り出した

取り込んだ命令の出所と権限が、行動の前に独立検証されない構造（EchoLeak / Microsoft 365 Copilot）

AI 判断の完全性 エージェント基盤データ来歴
Brief →
No. 049 · 2026-06-12

「自律走行」の事故記録が、自社の黒塗りと自己申告のまま検証されていなかった

制御主体の帰属と走行判断の来歴が独立検証されない構造（Tesla Robotaxi / NHTSA）

AI 判断の完全性 データ来歴属性証明バイパス
Brief →
No. 047 · 2026-06-12

AI エージェントが、送信者を確かめる前に認証情報を社外へ送った

緊急を装った 1 通のメールに、本人性検証の規則が破られた（OpenClaw / Varonis）

AI 判断の完全性 エージェント基盤認証・認可
Brief →
No. 043 · 2026-06-09

自動運転の事故データと「人間より安全」の根拠が、自社申告のまま検証されていない

AI の走行判断と安全性属性の独立検証不在（Tesla FSD／NHTSA EA26002）

AI 判断の完全性 属性証明バイパス
Brief →

Lemma Critical Monthly

実際に起きたリスク事案の構造分析(Critical Brief)を軸に、検出の先に必要な「証明」への視点を月 1 回お届け。

ニュースレターを購読
Cite this Brief

この Brief を引用する

Lemma Critical Team. (2026).
"AI が作った「実在しない判例」を、対立する双方の弁護士が裁判所に提出した（ミシシッピ連邦地裁） — AI が示した引用元の実在性・来歴が、書面提出の前に独立検証されない構造（Rule 11）".
Lemma Critical Brief No.060. Lemma / FRAME00, Inc.
https://lemma.frame00.com/ja/critical/briefs/060-withers-aberdeen-ai-hallucinated-precedent/