製品 Lemma API証明の発行・検証の基盤Trust402エージェントに任せ、取引するSeal鍵を渡さない、エージェント時代のサインイン
ユースケース 製造・基幹インフラ検査記録アシュアランス金融・FinTech取引先レコード検証自治体・公共証明書レス手続き医療・ヘルスケア有資格者アシュアランス調達・サプライチェーン仕入先資格モニタリングメディア・コンテンツコンテンツ真正性サービス・小売グループ横断アイデンティティAI導入（業種横断）AI実行ガバナンス開発者・エージェント運用エージェント権限統制 ▸ 業界別ソリューション索引を見る
料金
リソース Critical BriefAI×信頼の最前線ブログ考え方と実装の記録ドキュメントAPI と仕様書検証センター検証・発行の実数運営会社FRAME00, Inc.お問い合わせ導入・取材のご相談用語集言葉の定義FAQよくある質問
ダッシュボード ↗ EN
ホーム / Critical Brief / No. 061
No. 061 Critical Brief · 検証可能 AI

Hyundai：AI の自動ブレーキが、危険がないのに作動し、追突が起きた(NHTSA のリコール文書)

421,078台
リコールの対象（NHTSA 26V316）
376件
前方衝突回避（FCA）の作動に関する報告（2024-10-28〜2026-04-27）
4件
Hyundai 車が後続車に追突された件数。負傷も 4 件が申告された（NHTSA のリコール文書）
国・地域米国
事案日2026-05-22
公開2026-06-17
発行Lemma Critical Team
目次
  1. 01要点
  2. 02通った操作
  3. 03実行前の照合
  4. 04Lemma でできること
  5. 05事実と時系列
  6. 06Sources

要点

ソフトウェアの不具合により、危険がない状況でも、前方衝突回避（FCA）の自動ブレーキが早すぎるタイミングで作動しうるとして、リコールになった。所有者の報告や申し立てを集めてリコールに至る検知は、作動の後に働く。人の運転に割り込む AI の判断は、その作動が必要かを実行の前に照合する段が無ければ、誤った判断も、正規の安全機能の作動として実行される。

図表 1「検知」と「実行の前の照合」の違い

実行の前の照合＝自動制動を実行する前に、その作動が必要かを、カメラの判断の外で照合し、記録に残すこと。検知＝作動の後に、報告や申し立てから気づくこと。日付は、各社・当局が確認・公表した日。

実行の前の照合 · 公表からは分からない制動の前に、その作動が必要かを、カメラの判断の外で照合する
確認されたこと危険がないのに急制動がかかりうる
追突 4 件・負傷 4 件の申告
検知 · 作動の後に働いた所有者の報告と申し立てが集まり、リコールに至った
2025-01
所有者アンケートで不具合の可能性を把握
2025-09
ODI が照会を開始
2026-04-27
報告が 376 件に
2026-05
421,078 台のリコール

通った操作

通った操作
危険がない状況での、自動ブレーキの作動。前方カメラ（multi-function camera）のソフトウェアの不具合により、FCA が早すぎるタイミングで作動しうる（NHTSA のリコール文書）。4 件で Hyundai 車が後続車に追突され、4 件の負傷が申告された。
受け付けた側に届くもの
一般に、ブレーキの制御は、FCA が出した制動の指示を、危険が実際に迫っているかを知らないまま実行する。誤作動も正規の安全機能の作動として実行され、車両の側からは、正常な作動と区別がつかない。
検知の経路
所有者の報告、NHTSA への申し立て、ODI の照会、リコール。いずれも被害と報告の後に働く。
公表されていないこと
参照した資料には、不具合が起きる条件の詳細、作動を止める別の仕組みが車両にあったか、追突 4 件以外の報告の内訳は無い。

実行前の照合

経路を問わず区別できる条件は、人の運転に割り込む自動制動を実行する側が、その作動が必要かを、実行の前に、知覚と判断をしたカメラとソフトウェアの外で照合することである。

この事案の核心
人の運転に割り込む AI の判断は、その作動が必要かを実行の前に照合する段が無ければ、誤った判断も、正規の安全機能の作動として実行される。
誰が承認を出すか
自動制動の作動の条件を定める側(車両の安全機能の設計)。作動は、カメラの判断とは別に、その作動が必要であることを示す条件が満たされたときに通す。
どこで照合するか
自動制動を実行する直前。知覚と判断がカメラとソフトウェアの内部で完結する場合、その内部の判断だけでなく、外から照合できる形の条件で。照合できない作動は、保留にして、確認できるまで止める。
何が残るか
どの作動を、どの条件を満たして行った(または止めた)かの記録と、そのときのテレメトリ。後から書き換えられない形で、判断をした処理の外に残す。

検知は、何件起きたかを可視化し、リコールとカメラの再フラッシュにつながった。個々の作動の前の照合とは、別に働く。AI の判断が独立した照合を欠いたまま、取り消せない行動に直結した事案に、Brief 012（顔認識の AI 判定が、行政の強制処分に直結した）がある。

Lemma でできること

Lemma は、実行前の照合を、人の運転に割り込む AI の判断(自動制動など)を実行する側に組み込む。知覚や判断そのものの正否を判定するのではなく、その作動が、あらかじめ定めた条件を満たしているかを、実行の前に、判断をした処理の外で照合し、記録に残す。

注意したい業界・業務

業界製造
車両や機械に、人の操作に割り込む自動制御の機能を載せる組織。
業務AI の判断を業務に組み込む部門
人が最終責任を負う前提のまま、AI の判断が行動に割り込む業務。

いまの対策と Lemma の違い

今回の経路は、人の運転に割り込む自動制動の作動である。

対策人の運転に割り込む自動制動の作動作動の後の、記録からの把握
所有者の報告・NHTSA への申し立ての集約と、リコール効かない効く
ソフトウェアの更新（カメラの再フラッシュ・作動タイミングの再調整）一部関係しない
Lemma（実行の前の照合）一部効く

報告の集約とリコールは、何件起きたかの把握、安全の評価、再発の防止に欠かせないが、作動の後に働く。ソフトウェアの更新は、作動タイミングを再調整するもので、判断の分布を改善する。個々の作動が、実行の前に、必要と照合されるわけではない。Lemma は、作動の前に、あらかじめ定めた条件を満たしているかを、判断をした処理の外で照合し、判断とテレメトリを、発行の時点で記録に結びつけて残す。作動の後に、記録の真正性を確認できる。

注：Lemma の照合が働くのは、自動制動を実行する仕組みに照合を組み込み、作動が必要である条件を、判断をした処理の外で定義・管理できる場合に限る。条件そのものが誤っていれば、誤った作動も通る。Lemma は、カメラの知覚の誤りを直すものではない。制動の必要性を、実行の前の短い時間でどう照合できるかは、参照した資料からは分からない。表は何を照合しているかの比較で、今回の事案で止まったかどうかを示すものではない。Lemma は、侵入を検出・防止するものではない。

点検点検チェックリスト

AI の判断が人の操作に割り込む機能を持つ組織で確認する 3 項目

  • 人の運転や操作に割り込む自動制御の作動を、実行の前に、必要かどうか照合しているか。
  • 自動制御の判断とテレメトリを、後から書き換えられない形で記録しているか。
  • 誤作動の報告を集めるだけでなく、個々の作動が妥当だったかを、あとから確認できるか。

事実と時系列

対象
2025〜2026 年式 Hyundai Santa Cruz、Tucson、Tucson Hybrid、Tucson Plug-In Hybrid。リコール対象は 421,078 台。
識別子
NHTSA リコール 26V316（Hyundai Motor America、Hyundai 社内番号 302）。
不具合
前方カメラ（multi-function camera）のソフトウェアの不具合により、FCA が早すぎるタイミングで作動しうる。結果として、危険がない状況で意図せず自動ブレーキがかかる（いわゆるファントムブレーキ）。
報告と被害
2024-10-28〜2026-04-27 に、FCA の作動に関する 376 件の報告。うち 4 件で Hyundai 車が後続車に追突され、4 件の負傷が申告された。
修正
前方カメラの再フラッシュ。作動タイミングと先行車までの距離の判定を、ドライバーの期待により整合するよう更新する。ディーラー・所有者への通知は 2026-07-17 の予定。
把握の経過
Hyundai は、2025-01 に所有者アンケートで不具合の可能性を最初に把握した。ODI は 2025-09 に、Tucson の FCA に関する申し立てについて照会を開始し、Hyundai は 2026-05 までに ODI へ計 5 回ブリーフィングした。

用語メモ
前方衝突回避（FCA） — 前方カメラで先行車や障害物を知覚し、衝突が迫っていると判断すると、自動でブレーキをかける安全機能。
ファントムブレーキ — 危険がない状況で、意図せず自動ブレーキがかかること。
ODI（欠陥調査局） — 米国の NHTSA（運輸省の道路交通安全局）にある、車の欠陥を調べる部署。

時系列

  • FCA の作動に関する報告が蓄積し始める（NHTSA の報告期間の起点）。
  • Hyundai が、所有者アンケートで不具合の可能性を最初に把握する。
  • ODI が、Tucson の FCA に関する申し立てについて照会を開始する。
  • FCA の作動に関する報告が計 376 件に到達する(4 件の追突・4 件の負傷を含む)。
  • Hyundai が 421,078 台のリコール（26V316）を実施する。
  • ディーラー・所有者への通知の予定日。

台数（421,078）・報告件数（376）・追突/負傷（各 4）・リコール番号（26V316）・対象モデルは、NHTSA のリコール文書に拠る。本 Brief は、Hyundai を責めるものではない。公表されていないことは、対策が無かったことを意味しない。

公表後の対応

  • Hyundai / NHTSA: Hyundai は、前方カメラの再フラッシュによる是正を実施し、2026-07-17 に所有者へ通知する予定。ODI は、2025-09 以降の照会を経て、リコールに至る経緯を確認している。
  • 是正の範囲: 是正は作動タイミングの再調整で、判断の分布を改善するもの。個々の作動の前に、必要かを照合するものとは別に働く。

Sources

参照: 「AI 時代のサイバー防衛に残された、最後の層」

ほかでも起きている同じ手口「AI の誤作動・悪用」の事例 38 件を一覧で見る

この Brief は、公表された事実から、同じ立場の組織が点検できることを整理したものです。個別の被害や手続きの案内ではありません。

本資料は公開情報の構造化分析であり、特定組織への監査・診断・推奨ではありません。

この Brief を引用する

Lemma Critical Team. (2026).
"Hyundai：AI の自動ブレーキが、危険がないのに作動し、追突が起きた(NHTSA のリコール文書)".
Lemma Critical Brief No.061. Lemma / FRAME00, Inc.
https://lemma.frame00.com/ja/critical/briefs/061-hyundai-fca-phantom-braking/
次に読むNext
同じ対策 Atlassian Rovo：文書やリンクに仕込んだ指示で、Jira・Confluence のデータを外へ送らせられることが示された(PromptArmor・Varonis) エージェント基盤 同じ対策 法務省：生成 AI の解釈指針で、声をパブリシティ権の保護対象と明記した(検討会の取りまとめ報告書) データ来歴 新着 Binance：不正な出金の取引が通り、暗号資産が流出 エージェント基盤
Brief 一覧へ →
Lemma

確かめられないものを、
業務に入れない。

Lemma は、本物に見えるログインや支払い、記録、配信を、実行する前に照合する「実行前照合」の基盤です。暗号技術の証明で、受け取った側が発行者に問い合わせずに確かめられます。検知はそのままに、その手前に置きます。

エンタープライズ相談 検証センターを見る