ホーム / Critical Brief / No. 049

「自律走行」の事故記録が、自社の黒塗りと自己申告のまま検証されていなかった

制御主体の帰属と走行判断の来歴が独立検証されない構造（Tesla Robotaxi / NHTSA）

Pillar 02 · 検証可能 AI AI 判断の完全性 データ来歴属性証明バイパス
事案日
2026-05-15
公開日
2026-06-12
発行
Lemma Critical Team
関連 Pack
Pack AIncident Response

TL;DR

「自律走行の車が事故を起こした」と聞けば、ふつうは自律システムの判断ミスを思い浮かべる。だが 2026 年 5 月 15 日、Tesla が連邦規制当局（NHTSA）へ提出していた Robotaxi の事故記録の黒塗りが外され、Austin での 17 件の事故のうち少なくとも 2 件は、自律システムではなく車を遠隔操作していた人間の運転手（teleoperator）が起こしたものだったことが分かった。さらに Tesla は、事故の経緯記述（narrative）を「営業秘密」として黒塗りしてきた——Waymo・Zoox 等の同業が読める記述を提出していたのと対照的に。問題の構造は、事故ひとつひとつについて「そのとき誰／何が制御していたか」という帰属と、事故記録そのものの来歴が、自社の統制下にある自己申告・自己黒塗りのまま、独立に検証されていない点にある。本事案を、Pillar 02（検証可能 AI）の観点から、制御主体の帰属と走行判断の来歴が独立検証されない構造として、検出・開示との役割分担で分析する。Brief 043（自動運転の安全性属性が自己申告）・035（記録の存在が実施の証明と取り違え）・012（AI 判断が独立検証なく行政処分に直結）に連なる。

事案概要

  • 対象: Tesla の Robotaxi（Austin で運行する 2026 年式 Model Y、自律走行システム ADS 搭載、安全監視員同乗の運用期）
  • 記録の非黒塗り化: 2026-05-15、Tesla が NHTSA への提出記録を再提出し、事故経緯の narrative を開示。従来は全件を「営業秘密（confidential-business-information）」として黒塗りし、Waymo・Zoox 等が読める記述を提出していたのと差があった
  • 対象データ: Austin の Robotaxi テスト期間（2025-07〜2026-03）の 17 件の固有 ADS 事故。各件は ADS 作動・安全監視員同乗の 2026 年式 Model Y
  • 遠隔操作起因の事故: 2 件は自律システムではなく、車を遠隔操作していた人間の運転手が起こした。1 件は 2025-07、ADS が停止し安全監視員が遠隔支援を呼んだ後、遠隔運転手が縁石へ乗り上げ金属フェンスへ約 8mph で接触（本データ中で唯一の負傷を伴うが、入院には至らない軽傷）。もう 1 件は 2026-01、遠隔運転手が仮設のバリケードへ約 9mph で接触
  • 発生頻度の文脈: 2026-02 時点で Austin の車両は約 80 万マイルを走行し、14 件の事故を NHTSA に報告。約 5.7 万マイルに 1 件で、Tesla 自身のベンチマーク（人間は約 22.9 万マイルに 1 件の軽微衝突）と比べ約 4 倍と報じられた
  • 核心: 事故記録が存在し、規制当局へ報告されていること自体は、「そのとき誰／何が制御していたか」の帰属と、記録の真正性が独立に検証されたことを意味しない。制御主体の帰属も、記述の開示範囲も、当面 Tesla の自己申告・自己黒塗りに依存していた

タイムライン

  • 2025-07: Austin で Robotaxi テスト開始。以後 ADS 事故が NHTSA へ報告される。遠隔運転手がフェンスへ接触する事故（軽傷 1 件・入院なし）
  • 2025-12: NHTSA が別途、FSD に関する予備評価（消費者苦情 58 件：赤信号無視・対向車線への逸脱等）を開始（EA26002／Brief 043 圏）
  • 2026-01: 遠隔運転手がバリケードに約 9mph で接触
  • 2026-02: Austin 車両が約 80 万マイル走行、累計 14 件の事故を報告（約 5.7 万マイルに 1 件）
  • 2026-05-15: Tesla が事故 narrative の黒塗りを外して再提出。17 件のうち 2 件が遠隔運転手起因であったことが判明

注: 大半の事故は軽微で他の運転手側の要因とされ、Tesla の集計では自律システムの重大な過失は確認されていないと報じられている。本 Brief は過失割合の断定を目的とせず、制御主体の帰属と記録の来歴が独立検証されない構造を扱う。NHTSA の調査・評価は別途進行中。

事象連鎖：制御の帰属と記録の来歴が検証されないまま

本事象は、事故時の制御主体の帰属と事故記録の来歴が、自社統制の外で独立検証されない構造に起因する。失敗が「検証できなさ」へ伝播する経路は以下の通り。

  1. 制御の引き継ぎ: 自律システム（ADS）が解決できない状況で、遠隔の人間運転手や安全監視員へ制御が引き継がれる。引き継ぎの時点・主体・判断は車両側のログに依存する
  2. 事故の発生: 引き継ぎ後の遠隔運転を含め、事故が発生する。各事故が「ADS の判断によるものか」「遠隔人間の操作によるものか」は、事後の記録づけに委ねられる
  3. 自己申告の記録: 制御主体の帰属と事故経緯は、運行主体（Tesla）が作成し規制当局へ報告する。記録の真正性・網羅性は、外部から独立に再構成できない
  4. 記録の自己黒塗り: 事故経緯の narrative は「営業秘密」として黒塗りされ、第三者は制御帰属を含む詳細を検証できない。開示するか否かも運行主体の判断に依存する
  5. 事後の開示: 規制・世論の圧力の後に黒塗りが外され、遠隔運転手起因の事故が判明する。ただしこれは事故と最初の報告の後に作動する事後の系列である

構造的論点

本事象は Pillar 02（検証可能 AI）の ai-decision-integrity カテゴリに属する。中心的な失敗 primitive は、自律システムの走行判断と、事故時に「誰／何が制御していたか」という帰属が、行為の時点で独立検証可能な証跡として固定されておらず、事後の自己申告・自己黒塗りに依存する点にある。secondary に data-provenance（事故記録という証跡の来歴）と attribute-proof-bypass（「自律走行であった」という属性が独立検証されない）を併記する。

「自律走行の事故」という言葉が、制御主体の帰属を曖昧にする。本件で 2 件が遠隔人間運転だったように、ADS と遠隔人間と安全監視員の間で制御が移る運用では、「そのとき何が運転していたか」が安全性評価の前提になる。にもかかわらず、その帰属は車両側ログと運行主体の記録づけに依存し、外部から独立に再構成できない。事故記録の存在は、帰属の真正な証明ではない。

Brief 043（自動運転の事故データと「人間より安全」の根拠が自社申告のまま独立検証されない）の隣接事案であり、同じ運行主体の、記録の来歴という別断面である。Brief 035（Boeing 787 で、検査記録の存在が実施の証明と取り違えられた）と同型で、記録の存在が、記録される事実の真正な証明ではない構造を、自動運転の制御帰属へ移す。Brief 012（顔認識の AI 判定が独立検証なく行政の強制処分に直結した）とも、AI 判断が独立検証を欠いたまま安全・処分に直結する点で連なる。本事案が示すのは、自動運転という公共空間の AI 判断において、制御帰属と記録の来歴が独立検証されないことの帰結である。

検出と証明の落差

NHTSA への事故報告、規制当局の調査・予備評価、報道による可視化、そして Tesla 自身による黒塗りの解除は、被害把握・安全評価・再発防止に不可欠であり、本 Brief がその役割を否定するものではない。事故記録の提出と開示は、自動運転の安全性を社会が評価するための基盤である。

一方で、検出・開示は「そのとき誰／何が制御していたか」「この記録は改ざんなく事実を反映しているか」自体を独立には立証しない。事故報告は運行主体が作成し、narrative の開示範囲も運行主体が決める。黒塗りが外れて初めて遠隔運転手起因と分かったように、制御帰属の真偽は記録づけと開示の判断に依存していた。欠けていたのは「この事故の制御主体・走行判断は、行為の時点で独立検証可能な証跡に固定されているか」であり、これは事後の報告・開示とは別系統である。記録の存在が帰属の証明と同一視される限り、検証は開示判断の後追いにならざるを得ない。

事前証明（pre-execution attestation）の発想は、安全性評価を「事後に提出・開示された記録を信じる」から「制御の引き継ぎと走行判断が、行為の時点で独立検証可能な証跡として固定されているか」へと反転させる。制御主体（ADS／遠隔人間／安全監視員）の切り替えと各判断を、改ざん耐性のある来歴に行為時点でバインドすることで、事後の記録づけや開示範囲に依存せず、「この事故のとき何が制御していたか」を独立に検証できる。事故の検出（detection 的な「事故が起きたか」）と制御帰属・判断の来歴証明（「そのとき何が、どの認可で制御していたか」）は代替ではなく 補完 の関係にある。行為の時点で来歴を独立検証する考え方は 「Proof-as-Auth: 鍵を一度も送らずにサインインする」（Lemma、2026-05）、検出と事前証明の thesis は 「AI 時代のサイバー防衛に残された、最後の層」（Lemma、2026-05）を参照。

対応経緯と業界動向

  • Tesla / NHTSA: Tesla は 2026-05-15、事故 narrative の黒塗りを外し、Waymo・Zoox 等と同様の開示水準へ揃えた。NHTSA は FSD に関する予備評価（2025-12 開始）を含め、自動運転の安全性評価を継続している
  • 記録の来歴の論点: 自動運転の事故報告において、制御主体の帰属（ADS／遠隔人間／監視員）と記録の真正性をどう独立検証するかが、規制・業界横断の課題として挙がっている。記録の「存在」「提出」と、記録される事実の「独立検証」を区別する必要が再認識された
  • 業界横断の論点: 安全性の主張・事故記録を運行主体の自己申告に依存させず、制御の引き継ぎと走行判断を行為時点で独立検証可能な証跡に固定する（provenance / pre-execution attestation）方向へ、自動運転の信頼設計の重心を移す議論が進んでいる。遠隔操作（teleoperation）を含む運用では、制御帰属の証跡化がとくに論点になる

Lemma による分析

本事象で露呈した落差（制御主体の帰属と走行判断の来歴が、行為の時点で独立検証されず、事後の自己申告・自己黒塗りに依存する）に対して、Lemma は、判断・行為の時点で、その来歴と認可を独立検証可能な暗号証明として固定する設計を提示している。

  • 制御帰属の来歴バインド: 制御の引き継ぎ（ADS↔遠隔人間↔監視員）と各走行判断を、行為の時点で改ざん耐性のある来歴に紐付け、「そのとき何が、どの認可で制御していたか」を事後に独立検証可能にする
  • 記録の真正性証明: 事故記録・テレメトリを、その発行時点に docHash でバインドし、事後の記録づけ・開示範囲に依存せず真正性を検証可能にする。記録の「存在」と事実の「証明」を分離する
  • 属性の事前証明: 「この走行は自律であった／遠隔人間であった」という属性を、自己申告ではなく独立検証可能な証跡として示す
  • 選択的開示: 営業秘密と安全性の独立検証を両立させ、機微な内部情報を出さずに「制御帰属・記録の真正性が検証条件を満たす」ことだけを最小開示する

これにより、行為の時点で固定された証明が、「この事故のとき何が制御し、この記録は真正か」を、事後の開示判断に依存せず独立検証可能なトレイルとして機能させる。検出・開示（事後の報告・黒塗り解除）は社会的評価の基盤に、事前証明（行為時点の来歴・認可の固定）は制御帰属と記録の独立検証に、それぞれ相補的に働く。設計と適用範囲は、Pillar 02 — 検証可能 AI および Trust402 を参照のこと。

Sources

Brief 配布について

Lemma Critical Brief は Lemma が発行する脅威インテリジェンス・ブリーフです。本資料は公開情報の構造化分析であり、特定の組織への監査・診断・推奨ではありません。意思決定の参考として用いる場合は、貴組織の Lemma Critical 担当に直接ご相談ください。

Discovery Call → ホワイトペーパー → ✉️ ニュースレター →

(c) 2026 FRAME00, INC. — Built for decisions that matter.

関連 Brief
AI 判断の完全性の全 14 件を見る
No. 047 · 2026-06-12

AI エージェントが、送信者を確かめる前に認証情報を社外へ送った

緊急を装った 1 通のメールに、本人性検証の規則が破られた（OpenClaw / Varonis）

AI 判断の完全性 エージェント基盤認証・認可
Brief →
No. 043 · 2026-06-09

自動運転の事故データと「人間より安全」の根拠が、自社申告のまま検証されていない

AI の走行判断と安全性属性の独立検証不在（Tesla FSD／NHTSA EA26002）

AI 判断の完全性 属性証明バイパス
Brief →
No. 024 · 2026-06-05

不可視 Unicode による指示インジェクション

目視と AI 入力の乖離

AI 判断の完全性 エージェント基盤データ来歴
Brief →
No. 018 · 2026-05-31

hackerbot-claw による初の AI 対 AI 攻撃

リポジトリの CLAUDE.md を書き換え、防御側 AI エージェントの指示を乗っ取ろうとした

AI 判断の完全性 エージェント暴走認証・認可
Brief →
No. 017 · 2026-05-31

McKinsey Lilli のシステムプロンプト書き換え可能性

AI の挙動を統治する層に完全性も来歴もなかった

AI 判断の完全性 認証・認可エージェント暴走
Brief →
No. 012 · 2026-05-31

Robert Williams 誤認逮捕

顔認識の AI 判定が独立検証なく行政の強制処分に直結した構造

AI 判断の完全性 認証・認可AI バイアス・有害性
Brief →

Lemma Critical Monthly

実際に起きたリスク事案の構造分析(Critical Brief)を軸に、検出の先に必要な「証明」への視点を月 1 回お届け。

ニュースレターを購読
Cite this Brief

この Brief を引用する

Lemma Critical Team. (2026).
"「自律走行」の事故記録が、自社の黒塗りと自己申告のまま検証されていなかった — 制御主体の帰属と走行判断の来歴が独立検証されない構造（Tesla Robotaxi / NHTSA）".
Lemma Critical Brief No.049. Lemma / FRAME00, Inc.
https://lemma.frame00.com/ja/critical/briefs/049-tesla-robotaxi-control-attribution/