ホーム / Critical Brief / No. 043

自動運転の事故データと「人間より安全」の根拠が、自社申告のまま検証されていない

AI の走行判断と安全性属性の独立検証不在（Tesla FSD／NHTSA EA26002）

Pillar 02 · 検証可能 AI AI 判断の完全性 属性証明バイパス
事案日
2026-03-18
公開日
2026-06-09
発行
Lemma Critical Team
関連 Pack
Pack BRegulatory

TL;DR

自動運転が「人間より安全」だという主張も、実際の事故データも、メーカーの自己申告のまま独立に検証されていなかった。2026 年 3 月 18 日、米 NHTSA は Tesla の FSD が視界低下（逆光・霧・砂塵）を扱えない問題の調査を、リコール前段の Engineering Analysis（EA26002、約 320 万台）へ昇格し、劣化検知が衝突直前まで警告しなかったこと、データ・ラベリング制約による対象事故の過少報告の可能性を指摘した。並行して 2026 年 5 月 28 日、Reuters は「FSD は人間より最大 10 倍安全」という主張が誤った比較で安全性を約 3 倍に水増ししていたと報じた。本 Brief は、AI の走行判断と当局・市場に示される安全性属性（事故率・「より安全」の主張）が、いずれも事業者の自己申告のまま独立検証されない構造を、検出との役割分担の観点から分析する。

事案概要

  • 調査の昇格: 2026-03-18、NHTSA が予備評価（PE24031、2024-10 開始）を Engineering Analysis（EA26002）へ昇格。対象は 3,203,754 台。EA は通常リコールの直前段階
  • 走行判断側の失敗: NHTSA は、レビューした衝突で、システムが「カメラの視界を損なう一般的な路面条件を検知せず、かつ／または、衝突直前までカメラ性能の劣化を警告しなかった」と認定。車両は直前の他車を見失う／全く認識しないまま衝突に至った
  • 対象範囲: 視界低下に関わる 9 件（死亡 1・負傷 1 を含む）を確認、さらに 6 件を関連の可能性ありとして精査
  • 申告側の失敗（過少報告）: Tesla は「データ・ラベリング上の制約」により、劣化検知が作動中の事故を一律に特定・分析できないと NHTSA に説明。NHTSA は、これが対象期間の一部で事故の過少報告を招いた可能性があるとした
  • 安全性主張の水増し: 2026-05-28、Reuters が、Tesla の「最大 10 倍安全」という主張が、自社のエアバッグ展開事故と連邦の全レッカー事故という非対称な比較に基づくと報道。University of Michigan の研究者が対称な比較に補正すると、優位は約 3 倍に縮小し、それも車両年齢差（Tesla 平均 4.1 年 vs 全米 12.8 年）等で信頼性が低い。レビューした交通安全研究者 11 名中 10 名が「誤解を招くマーケティング」と評価
  • データ提出の遅延: Tesla は別の調査で FSD の走行違反データ（映像・EDR・CAN バス）の提出を繰り返し延期している

タイムライン

  • 2021 年央: Tesla が車載レーダーを廃しカメラのみの方式へ移行（社内技術者の懸念に反したと報じられる）
  • 2023-11-28: FSD と視界低下が関わる死亡事故が発生
  • 2024-06-27: Tesla が当該事故の Standing General Order（SGO）報告を提出（発生から約 7 か月後）
  • 2024-06-28: Tesla が劣化検知システムの更新開発に着手。NHTSA は、その更新がいつ・どの車両に配備されたか把握していないとする
  • 2024-10: NHTSA が予備評価 PE24031 を開始（視界低下下の 4 件の衝突、うち 1 件は歩行者死亡）
  • 2025-08: NHTSA が Tesla の事故報告実務に関する別調査を提起
  • 2025-10: NHTSA が走行違反（赤信号無視・対向車線進入等）58 件に関する別調査 PE25012 を開始
  • 2026-03-18: NHTSA が調査を Engineering Analysis EA26002 へ昇格（約 320 万台、死亡 1 を含む 9 件）
  • 2026-05-28: Reuters が、Tesla の安全性主張の方法論的欠陥（約 3 倍の水増し）と、社内データラベラーの不信を報道

注: 個別事故の最終的な責任認定・係争の帰結は調査・訴訟の進行に依存するため、本文では断定しない。

走行判断と安全性申告が規制・市場に伝播する経路

本事象は、AI の走行判断と安全性属性が独立検証されない構造に起因する。失敗が規制開示・市場へ伝播する経路は以下の通り。

  1. 走行判断の自己判定: FSD は、カメラ入力が有効か（劣化していないか）を自ら判定し、有効と見なす限り走行を継続する。「見えていない」ことの検知そのものがシステムの自己判定に閉じ、独立に検証されない
  2. 事故記録の自己申告: 衝突が起きた場合、どの事故が「劣化検知の作動中」だったかの特定・ラベリングは事業者の内部プロセスに依存する。ラベリングの制約は、当局に届く事故母集団を事業者側で実質的に縮小し得る
  3. 規制開示への流入: 自己申告された事故データが、規制当局への報告（SGO 等）として提示される。当局はまず提出データを起点に評価せざるを得ない
  4. 市場への主張: 自己申告データから構成された「より安全」という安全性属性が、投資家・利用者・市場に提示される。比較の母集団選択が非対称であっても、外部からは検証されにくい
  5. 発覚の遅延と影響の確定: 走行判断の妥当性・事故母集団の網羅性・統計の対称性の乖離は、通常の報告サイクルでは可視化されない。規制調査と調査報道が事後に作動して初めて外部から確認され、確定すれば過去の全申告期間について遡及的な再検証が必要となる

構造的論点

本事象は、Pillar 02（検証可能 AI）の ai-decision-integrity カテゴリに属する。中心的な失敗 primitive は、AI の走行判断の妥当性と、そこから導かれる安全性属性が、いずれも事業者の自己申告のまま独立検証から切り離されて受理される点にある。走行判断側では、「カメラ入力は有効である」という前提の妥当性がシステムの自己判定に閉じ、行動（走行継続）の前に独立検証されない。申告側では、「どの事故を母集団に含めるか」「何と比較するか」という属性構成が事業者に委ねられ、当局・市場はその構成を外から再検証できない。secondary に attribute-proof-bypass（規制・市場に提示される安全性属性）を併記する。

Brief 012（顔認識の AI 判定が独立検証なく行政の強制処分に直結）、Brief 021（自己申告の財務属性が独立検証なく開示・市場に直結）、Brief 009（エージェント権限が独立検証されない自律実行）と対象は異なるが、共通する primitive は同じである。すなわち、ある判断・属性の assertion が、それを検証する layer と切り離されたまま、行動・開示・市場に直結する。本事案は、その assertion が「人の安全に直結する物理的な走行行動」と「公開市場に提示される安全性主張」の両方に同時に流れ込む点で、AI 判断の完全性バイパスの帰結の大きさを示す。

検出と証明の落差

本事象では、NHTSA の段階的な調査（PE24031 → EA26002、別途 PE25012・報告実務調査）と、Reuters の調査報道、そして Tesla 社内のデータラベラーの証言という検出の系列が機能し、走行判断の失敗・過少報告・統計の水増しが外部から可視化された。これは検出の典型的成功であり、本 Brief が検出層の役割を否定するものではない。検出は、疑義の提起、調査の駆動、リコール要否の判断に不可欠である。

ここで重要なのは、本事案が一見「AI の検知（perception）の事故」に見える一方で、Lemma が扱う落差は検知精度そのものではない点である。検知をいくら高めても、検出は「走行判断の根拠（カメラ入力が有効だったか）」と「申告された事故母集団・安全統計が実態を反映しているか」を、車両が走行を続ける時点・データが当局へ提出される時点で独立に立証する材料にはならない。規制調査も調査報道も、行動と申告が市場に受理された後に作動する事後の系列である。これは検出層の射程外にある、構造的に独立した層の落差である。

現状、自動運転の安全保証の運用モデル全体において、走行判断の妥当性と安全性属性の独立検証は、事業者が自己申告するテレメトリ・事故ラベル・統計への信頼に依存しており、まだ独立した層として扱われていない。事前証明（pre-execution attestation）は、走行判断と申告・開示の経路に属性証明を 1 段挟むことで、この落差を埋める。事前証明は検出に対する代替ではなく 補完 であり、両層の組み合わせで安全性属性の trust boundary が確立される（検出と事前証明の関係についての詳細は 「AI 時代のサイバー防衛に残された、最後の層」（Lemma、2026-05）を参照）。

対応経緯と業界動向

  • 規制・捜査: NHTSA は FSD / Autopilot をめぐり複数の並行調査を運用し、視界低下調査を EA へ昇格させた。事業者からの事故データ・走行違反データの提出遅延が、調査の実効性をめぐる論点となっている
  • 安全保証・標準: 自動運転の安全保証では、安全運転事例（safety case）の提示、事故・走行データの第三者検証、メトリクスの標準化（比較母集団・閾値の整合）をめぐる議論が続く。一方で、これらは事業者の自己申告データに依拠する部分が大きく、申告時点で原データの網羅性・真正性を独立検証する層は依然として薄い
  • 規制の重心移動: 規制の重心はデータ開示からコンプライアンス証明へ移りつつある。自動運転・先進運転支援において、安全性の主張を事業者の自己申告ではなく独立検証可能な形で求める要請が強まっている

走行判断の妥当性と安全性属性の根拠を、行動・申告の時点で独立検証する層の不在は、特定企業の問題ではなく、自動運転を展開する事業者と、それを監督する当局・市場の双方に横断する運用課題として残っている。

Lemma による分析

本事象で露呈した落差（AI の走行判断と安全性属性が、その根拠の独立検証から切り離されたまま行動・開示・市場に直結する）に対して、Lemma は、判断の根拠と事故・走行記録を、その時点で独立検証可能な暗号証明として commit し、規制当局・第三者検証機関が原データを事業者外に出さずに「当時、根拠は満たされていた／記録は網羅的である」を独立に検証できる設計を提示している。

  • 判断時アテステーション: 走行を継続する判断の前提（例: 知覚入力の有効性チェックが通過した）を、判断の時点で署名付きに証明する。前提の妥当性を、事後のラベリングではなく行動時の証明として固定する
  • 記録の原本バインドと網羅性: 事故・走行テレメトリ（映像・EDR・CAN）の原本に docHash で紐付け、非改ざんと、母集団からの恣意的な脱落がないことを検証可能にする。「どの事故を含めるか」を事業者の内部プロセスに閉じない
  • スキーマバインド証明: 各証明を、それが満たす規制スキーマ（報告義務・メトリクス定義・比較母集団）と紐付け、当局がスキーマに対して直接検証できる形にする
  • 選択的開示: 「当該指標が定義どおりに満たされる」ことだけを最小開示し、走行映像・個人を特定し得る原データは事業者外に出さない

これにより、行動・申告の時点で固定された証明が、「当時、判断の根拠は満たされていたか」「申告は網羅的か」を後年に問われた際に、原データを開示せず独立検証可能なトレイルとして機能する。検出（事後の規制調査・調査報道）は発覚後の是正に、事前証明（行動・申告時点の検証）は走行判断と安全性属性の独立検証に、それぞれ相補的に働く。設計と適用範囲は、Pillar 02 — 検証可能 AI および ユースケース一覧 を参照のこと。

Sources

Brief 配布について

Lemma Critical Brief は Lemma が発行する脅威インテリジェンス・ブリーフです。本資料は公開情報の構造化分析であり、特定の組織への監査・診断・推奨ではありません。意思決定の参考として用いる場合は、貴組織の Lemma Critical 担当に直接ご相談ください。

Discovery Call →　ホワイトペーパー →　✉️ ニュースレター →

(c) 2026 FRAME00, INC. — Built for decisions that matter.

関連 Brief
AI 判断の完全性の全 9 件を見る
No. 047 · 2026-06-12

AI エージェントが、送信者を確かめる前に認証情報を社外へ送った

緊急を装った 1 通のメールに、本人性検証の規則が破られた（OpenClaw / Varonis）

AI 判断の完全性 エージェント基盤認証・認可
Brief →
No. 024 · 2026-06-05

不可視 Unicode による指示インジェクション

目視と AI 入力の乖離

AI 判断の完全性 エージェント基盤データ来歴
Brief →
No. 018 · 2026-05-31

hackerbot-claw による初の AI 対 AI 攻撃

リポジトリの CLAUDE.md を書き換え、防御側 AI エージェントの指示を乗っ取ろうとした

AI 判断の完全性 エージェント暴走認証・認可
Brief →
No. 017 · 2026-05-31

McKinsey Lilli のシステムプロンプト書き換え可能性

AI の挙動を統治する層に完全性も来歴もなかった

AI 判断の完全性 認証・認可エージェント暴走
Brief →
No. 012 · 2026-05-31

Robert Williams 誤認逮捕

顔認識の AI 判定が独立検証なく行政の強制処分に直結した構造

AI 判断の完全性 認証・認可AI バイアス・有害性
Brief →
No. 005 · 2026-05-30

フォント偽装で AI の文書レビューに別の文章を読ませた（Noroboto）

2026 年 5 月、Tritium Legal Technologies 創業者ドリュー・ミラー氏が「Noroboto」攻撃手法を公開した。文書に埋め込まれた悪意あるフォントが Unicode 符号位置と字形の対応関係を意図的にずらすこと…

AI 判断の完全性 データ来歴
Brief →

Lemma Critical Monthly

実際に起きたリスク事案の構造分析(Critical Brief)を軸に、検出の先に必要な「証明」への視点を月 1 回お届け。

ニュースレターを購読
Cite this Brief

この Brief を引用する

Lemma Critical Team. (2026).
"自動運転の事故データと「人間より安全」の根拠が、自社申告のまま検証されていない — AI の走行判断と安全性属性の独立検証不在（Tesla FSD／NHTSA EA26002）".
Lemma Critical Brief No.043. Lemma / FRAME00, Inc.
https://lemma.frame00.com/ja/critical/briefs/043-tesla-fsd-self-reported-safety/