定義
ヒューマン・イン・ザ・ループ (HITL) は、AI の出力をそのまま実行せず、人間のレビューと承認を経てから初めて確定させる設計を指す。融資審査・医療診断・与信判断など、誤りのコストが高い領域で長く標準とされてきた統制モデルである。
EU AI Act 第 14 条は高リスク AI に「人間による監督 (human oversight)」を義務付けており、HITL はその最も保守的な実装にあたる。人間が各判断に介在することで、自動化バイアスや誤作動を実行前に遮断できる。
ただし HITL は本質的にスケールしない。判断件数が人間のレビュー能力を超えた時点で、承認待ちのキューが処理速度の上限になる。エージェントが連続的に意思決定する用途では、すべての判断に人間を挟むことが現実的でなくなる。
Lemma での実装
Lemma は「人間が承認した」という事実そのものを 監査トレイル の一要素として記録する。承認者・承認時刻・対象 docHash をコミットメント化し、後から「この判断は人間承認を経た」ことを改ざん不能に証明できる。
これにより HITL は「運用ログ上の主張」から「暗号的に検証可能な事実」へ移る。監査側は原データを見ずに、ゼロ知識証明 で承認の有無だけを確認できる。
HITL を完全に省くのではなく、承認の事実を証跡化したうえで ヒューマン・オフ・ザ・ループ へ段階的に移行する経路を、同じ監査トレイル設計の上で提供する。