定義
ヒューマン・オフ・ザ・ループ (HOTL) は、AI の判断を人間承認なしで確定させ、人間は例外監視や事後レビューに回る設計を指す。エージェントが連続的に決済・調達・データアクセスを実行する用途では、HOTL なしにスループットを確保できない。
問題は説明責任の空白である。人間が各判断に介在しないということは、「誰が・いつ・何を根拠に判断したか」を後から再構成できなければ、規制対応も障害分析も成立しないことを意味する。自律度を上げることと統制を失うことは、本来は別の問題である。
EU AI Act の人間監督要件は HOTL を禁じてはいない。求めているのは「監督できる状態」であり、人間が各判断に立ち会うこと自体ではない。事後に検証可能な証跡があれば、監督の要件は技術側で満たせる。
Lemma での実装
Lemma の立場は明確である。loop を離れた判断ほど、人間承認の代わりとなる 監査トレイル が説明責任を担う。各判断の入力ハッシュ・モデルバージョン・推論時刻・出力ハッシュをコミットメントチェーンに固定し、人間の署名がなくても「いつ・どのモデルが・どの入力で判断したか」を改ざん不能に残す。
エージェント決済 のように人間が一件ずつ承認できない領域では、ゼロ知識証明 による 来歴 の証明が、人間承認の機能的な代替になる。データを開示せずに、判断の正当性だけを検証できる。
結果として HOTL は「統制を捨てた自律」ではなく「証跡で統制された自律」になる。Lemma が用意するのは、自律度を上げながら監査可能性を落とさないための検証層である。