なぜ単独カテゴリなのか
2026 年、AI 判断の
独立検証は監査要件になった。
直近 1 年で、採用 AI の差別判定、医療 AI の説明不能、自律 coding agent の暴走など、判断過程が事後検証できない事案が連続している。XAI による「説明」は監査要件を満たさず、判断の事実そのものを暗号証跡として残す層が求められている。
2026-05
Robert Williams 誤認逮捕 — 顔認識 AI の照合結果が独立検証なく行政の強制処分に直結、米国初の FRT 起因誤認逮捕事例。
Brief →
2026-05
Noroboto フォント偽装攻撃 — AI 文書処理での入力 integrity 偽装、契約書 AI レビューの判断根拠が乖離。
Brief →
2026-04
PocketOS Cursor 本番 DB 削除 — AI coding agent が単一 API call で 9 秒で production database を削除、判断過程の事前検証が不在。
Brief →
規制動向 EU AI Act 高リスク AI 要件NY Local Law 144 (採用 AI 監査義務)米 SEC AI 開示ガイダンスEEOC AI 採用差別ガイダンス
Lemma の関わり
判断の事実を、
モデル更新後も独立検証できる。
検証可能 AI は、AI の判断を「説明する」のではなく「再現できる暗号証拠として残す」設計。入力・モデル・推論結果を改ざん不能な形で結びつけ、第三者監査が後から独立検証できる証跡を提供する。
役割
AI 判断の入力 / モデルバージョン / 推論結果を、改ざん不能な暗号コミットメントで紐づけた証跡として残す。
隣接領域との違い
XAI / interpretability ツールは判断の「説明」を生成する。Lemma は判断の「事実」を独立検証可能にする(補完関係)。
既存実装
Lemma 経由。zkML primitives の本番実装は 2026 後半予定、それまでは commitment scheme のみで対応。
業務でどこに現れるか
AI 判断が問われる、
代表的な業務領域。
さらに読む