TL;DR
スクールバスが赤色灯を点け、stop arm（停止標識アーム）を出して子どもを降ろしているとき、後続の車は止まる——人間のドライバーなら当然の判断を、自動運転車が下せなかった。2025 年 10 月、NHTSA（米運輸省道路交通安全局）の欠陥調査局（ODI）は、Atlanta で Waymo の自動運転車が停止中のスクールバスの脇を通り過ぎた映像を受けて調査を開始した。Austin の学区は今年度だけで Waymo がスクールバスを違法に追い越した事案を 19 件記録し（Atlanta でも 2025 年に少なくとも 6 件）、うち 1 件は児童が車の直前を横断した直後だった。Waymo は原因のソフトウェア不具合を特定して 2025 年 11 月までに更新し、12 月に自主的なソフトウェアリコール（第 5 世代 ADS 搭載の 3,067 台）を実施したが、更新後にも複数の事案が報告された。2026 年に入り NHTSA は調査を拡大し、赤色灯・stop arm・横断アームを展開したスクールバスに対して Waymo 車が停止状態を維持しなかった事案や、静止物への衝突・信号無視を含む 22 件の報告を対象としている。本事案は Pillar 02（検証可能 AI）の観点から、自動運転の走行判断が、安全に関わる行動を起こす前に独立検証されていない構造として分析する。Brief 049（制御帰属と記録の来歴）・043（安全性属性の自己申告）・012（AI 判定が独立検証なく強制処分に直結）に連なる。
事案概要
- 対象: Waymo の自動運転車（ADS 搭載のロボタクシー、Atlanta・Austin 等で運行）
- 事象: 停止中（赤色灯点灯・stop arm 展開）のスクールバスに対し、Waymo 車が停止せず脇を通り過ぎる、または停止状態を維持しなかった。米国では停止中スクールバスの追い越しは違法であり、児童の乗降に直結する安全規則である
- 規模: Austin 学区は今年度 19 件を記録。うち 1 件は児童が車の直前を横断した直後の通過。Atlanta でも 2025 年に少なくとも 6 件。NHTSA ODI は、静止物・半静止物（ゲート・チェーン等）や駐車車両への衝突、信号制御の無視を含む 22 件の報告も対象にしている
- 対応: Waymo は原因ソフトウェアを特定し 2025-11-17 までに更新。2025-12 に自主的なソフトウェアリコール（第 5 世代 ADS 搭載の 3,067 台）を NHTSA と実施。ただし学区は更新後にも複数の事案を確認したとしている
- 核心: リコールとソフトウェア更新は事後の是正である。問題は、「いま目の前のスクールバスは停止中で、停止義務がある」という安全に関わる走行判断が、車が通過という行動を起こす前に、独立検証可能な形で満たされていなかった点にある
タイムライン
- 2025-10: NHTSA ODI が、Atlanta で Waymo 車が停止中スクールバスの脇を通過した映像（メディア報道）を受け調査を開始
- 2025-11-17: Waymo が原因ソフトウェアを特定し更新を展開したと説明
- 2025-12-03: NHTSA が Waymo に対し、2026-01-20 までの質問回答を求める書簡を送付
- 2025-12: Waymo が自主的なソフトウェアリコール（第 5 世代 ADS 搭載の 3,067 台）を NHTSA と実施
- 2025-12 以降: Austin 学区は更新後にも事案を確認したと報告
- 2026: NHTSA が調査を拡大。stop arm・横断アームを展開したスクールバスへ停止状態を維持しなかった事案、静止物衝突・信号無視を含む 22 件の報告を対象に。Zoox も別途、不意の急制動による追突 2 件で調査対象
注: リコール台数（3,067）・各事案件数は NHTSA リコール文書および報道に基づく。Waymo の別件リコール（冠水路走行に関する約 3,800 台）と混同しないよう、本 Brief はスクールバス関連のリコールに限定する。
事象連鎖：安全規則の判断が、行動の前に検証されないまま
本事象は、自動運転の走行判断が、安全に関わる行動を起こす前に独立検証されない構造に起因する。失敗が公共空間の事象へ伝播する経路は以下の通り。
- 状況の認識: 自動運転システムが、前方のスクールバスとその状態（赤色灯・stop arm・乗降中の児童）を知覚する。知覚と「停止義務がある」という規則適用は、システム内部の判断に委ねられる
- 行動の決定: システムは停止／通過を決定し、車を制御する。この決定が「停止義務を満たしているか」は、行動を起こす前に外部から独立に検証されない
- 安全規則違反の行動: 停止義務がある状況で通過する。児童の乗降に直結する公共安全規則の違反が、物理的な行動として実行される
- 事後の検出: 映像・学区の通報・NHTSA への報告を通じて事案が可視化される。これは行動の後に作動する事後の系列である
- 是正と再発: Waymo はソフトウェアを更新しリコールを実施するが、更新後にも事案が報告された。是正は判断の事後修正であり、個々の行動の前の独立検証ではない
構造的論点
本事象は Pillar 02（検証可能 AI）の ai-decision-integrity カテゴリに属する。中心的な失敗 primitive は、自動運転システムの走行判断（ここでは「停止中スクールバスへの停止義務」という安全規則の適用）が、車が行動を起こす前に独立検証可能な証跡として固定されておらず、規則の充足はシステム内部の判断とその事後検出に依存する点にある。secondary に data-provenance（走行判断・テレメトリという証跡の来歴）を併記する。
本事案は Brief 049（Tesla Robotaxi）と同じ自動運転クラスタだが、断面が異なる。049 は事故時の制御帰属と記録の来歴（誰／何が制御していたか、記録は真正か）を扱った。本事案は、制御主体は自動運転システムで明確な一方、その走行判断そのものが、安全規則を満たしているかを行動前に独立検証されていない点を扱う。Brief 012（顔認識の AI 判定が独立検証なく行政の強制処分に直結した）と同型で、AI 判断が独立検証を欠いたまま、公共空間の不可逆な行動・処分に直結する構造を、自動運転の走行判断へ移す。Brief 043（安全性属性が自社申告のまま検証されない）とは、安全性の主張・判断が独立検証の外にある点で連なる。
ソフトウェア更新後にも事案が続いたことは、論点を際立たせる。是正は判断モデルの事後修正であり、個々の行動が「いま安全規則を満たしている」ことを行動の前に独立検証する層とは別系統である。更新が判断の分布を改善しても、各行動の前の独立検証がなければ、残存事案は検出と是正のループの中でしか捕捉できない。
検出と証明の落差
NHTSA ODI の調査、学区からの通報、車載テレメトリの解析、そして Waymo によるソフトウェア更新とリコールは、被害把握・安全評価・再発防止に不可欠であり、本 Brief がその役割を否定するものではない。事案の可視化と是正は、自動運転の安全を社会が評価する基盤である。
一方で、検出は「いま起こそうとしている走行判断が、安全規則を満たしているか」を、行動の前に独立に立証する材料にはならない。停止中スクールバスへの通過は、システムが正規の走行判断として実行した行動であり、通信・制御としては通常運行と区別がつかない。事後のテレメトリ解析は「何が起きたか」を再構成するが、「その判断は行動の前に規則充足を独立検証されていたか」には答えない。リコールとモデル更新も、判断の分布を事後に修正するもので、個々の行動の前の独立検証ではない。更新後にも事案が続いたことは、検出と是正のループだけでは残存リスクを行動前に止められないことを示す。
事前証明（pre-execution attestation）の発想は、安全に関わる走行判断を「事後にテレメトリで検証する」から「行動を起こす前に、安全規則の充足を独立検証可能な証跡に固定する」へ反転させる。「停止中スクールバスに対し停止義務を満たした」という判断を、行為の時点で改ざん耐性のある来歴にバインドし、事後の記録づけや是正に依存せず、各行動が規則を満たしていたかを独立に検証できるようにする。事故・違反の検出（detection 的な「何が起きたか」）と走行判断の証明（「その行動は行動前に安全規則を満たすと独立検証されていたか」）は代替ではなく 補完 の関係にある。行為の時点で来歴・認可を独立検証する考え方は 「Proof-as-Auth: 鍵を一度も送らずにサインインする」（Lemma、2026-05）、検出と事前証明の thesis は 「AI 時代のサイバー防衛に残された、最後の層」（Lemma、2026-05）を参照。
対応経緯と業界動向
- Waymo / NHTSA: Waymo は原因ソフトウェアを特定し更新・自主リコールを実施。NHTSA ODI は 2026 に調査を拡大し、停止中スクールバスへの停止維持失敗や静止物衝突・信号無視を含む報告を対象に継続。Zoox も別途、不意の急制動による追突で調査対象になっている
- 是正の限界の論点: ソフトウェア更新後にも事案が報告されたことで、判断モデルの事後修正と、個々の行動の前の独立検証を区別する必要が論点になっている
- 業界横断の論点: 自動運転の安全評価を、運行主体の事後テレメトリと是正だけに依存させず、安全に関わる走行判断を行為の時点で独立検証可能な証跡に固定する（provenance / pre-execution attestation）方向へ、信頼設計の重心を移す議論が進んでいる
公共道路という不可逆な空間で、AI の走行判断が独立検証なく行動に直結する構造は、特定企業の問題ではなく、自動運転を社会実装する全体の信頼設計の課題として残っている。
Lemma による分析
本事象で露呈した落差（自動運転の走行判断が、安全に関わる行動の前に独立検証されない）に対して、Lemma は、判断・行為の時点で、その充足と認可を独立検証可能な暗号証明として固定する設計を提示している。
- 走行判断の来歴バインド: 安全に関わる走行判断（停止義務の充足等）を、行為の時点で改ざん耐性のある来歴に紐付け、「この行動は安全規則を満たすと独立検証されていたか」を事後に独立検証可能にする
- 記録の真正性証明: 走行判断・テレメトリを発行時点に docHash でバインドし、事後の記録づけに依存せず真正性を検証可能にする
- 判断の独立検証ゲート: 安全に関わる行動を、内部判断のみで実行するのではなく、規則充足の独立検証可能な証明を満たした場合に限り実行できる設計を志向する
- 選択的開示: 内部の知覚モデル・実装を出さずに、「この行動は安全規則の検証条件を満たした」ことだけを最小開示し、独立検証と機微情報保護を両立する
これにより、行為の時点で固定された証明が、「この走行判断は行動の前に安全規則を満たしていたか」を、事後の是正に依存せず独立検証可能なトレイルとして機能させる。検出（事後の通報・テレメトリ・リコール）は社会的評価と是正に、事前証明（行為時点の判断の独立検証）は安全規則充足の立証に、それぞれ相補的に働く。設計と適用範囲は、Pillar 02 — 検証可能 AI および Trust402 を参照のこと。
Sources
- TechCrunch: “Waymo to issue software recall over how robotaxis behave around school buses”（2025-12-05）— https://techcrunch.com/2025/12/05/waymo-to-issue-software-recall-over-how-robotaxis-behave-around-school-buses
- CBS News: “Waymo recalls more than 3,000 vehicles over faulty software following school bus violations” — https://www.cbsnews.com/news/waymo-recall-3000-vehicles-software-school-bus/
- CBS News: “U.S. expands investigation into Waymo over robotaxis driving around stopped school buses” — https://www.cbsnews.com/news/waymo-investigation-nhtsa-robotaxis-passing-school-bus
- NHTSA: Standing General Order ADS Incident Reports（自動運転事故報告制度の一次データ）— https://www.nhtsa.gov/laws-regulations/standing-general-order-crash-reporting
Brief 配布について
Lemma Critical Brief は Lemma が発行する脅威インテリジェンス・ブリーフです。本資料は公開情報の構造化分析であり、特定の組織への監査・診断・推奨ではありません。意思決定の参考として用いる場合は、貴組織の Lemma Critical 担当に直接ご相談ください。
Discovery Call → ホワイトペーパー → ✉️ ニュースレター →
(c) 2026 FRAME00, INC. — Built for decisions that matter.