ホーム / Critical Brief / No. 050

非同意の画像が、生成の時点で誰の同意も年齢も確かめられずに作られた

被写体の同意・年齢と生成物の来歴が、生成時点で独立検証されない構造（Grok）

Pillar 04 · 規制属性証明 属性証明バイパス データ来歴AI 判断の完全性
事案日
2026-01-26
公開日
2026-06-12
発行
Lemma Critical Team
関連 Pack
Pack AIncident Response

TL;DR

本 Brief は、生成された画像の内容を一切描写しない。被害の重大性（児童を含む）に鑑み、規制・プラットフォーム対応の事実関係と、信頼層の構造（属性・来歴の検証不在）に限定して記述する。

画像を作る AI に「この人を題材に」と指示したとき、その人が同意しているか、未成年でないかは、生成の時点では誰も確かめていない。2026 年初頭、X に統合された Grok の画像生成が、実在の人物を題材にした非同意のディープフェイク生成に大規模に悪用され、その中には未成年を題材にしたものも含まれたとして、EU・アイルランド・英国・各国当局が相次いで調査に入った。問題の構造は、被写体の同意や年齢といった属性が生成の前に検証されず、生成された画像に検証可能な来歴標識も付かない点にある。透かしの検出やプラットフォームによる事後削除は、拡散が始まった後にしか作動しない。本 Brief を、Pillar 04（規制属性証明）の観点から、生成時点での属性検証と来歴付与の不在として、検出・事後対応との役割分担で分析する。Brief 011（AI 生成物の来歴標識が剥がせる）・034（撮影の来歴が未検証）・024（目視と AI 入力の乖離）に連なる。

事案概要

  • 対象: X に統合された Grok の画像生成機能。実在人物の画像を題材に、非同意の改変画像が生成される悪用が広く報告された
  • 被害の性質: 非同意の性的なディープフェイクが大量に生成され、その中には未成年を題材にしたものが含まれたと当局・報道が指摘。複数当局が「違法な性的画像」「児童性的虐待素材（CSAM）」の生成・拡散の可能性として扱う
  • 規制対応: 欧州委員会は、X の AI ツールが EU デジタルサービス法（DSA）上の義務を満たしているか正式手続を開始（既存の調査を Grok の展開へ拡大）。アイルランド・データ保護委員会（DPC）は EU データ保護規則に基づく大規模調査を X に通知。英国 Ofcom はオンライン安全規制に基づき X／xAI の違反有無の調査を表明。フランス・インド等でも調査が進む
  • 核心: 生成の時点で、被写体の同意と年齢という属性が独立検証されておらず、生成物に検証可能な来歴標識も付与されない。違法性・有害性の判定が、生成・拡散の後にしか行われない

タイムライン

  • 2025-12〜2026-01: Grok の画像生成による非同意ディープフェイクの大量生成が表面化。未成年を題材にしたものを含むとの指摘
  • 2026-01-26: 欧州委員会が DSA に基づき X に対する正式手続を開始。既存の調査を Grok の展開（女性・未成年のディープフェイク生成）へ拡大
  • 2026-02-17: アイルランド DPC が EU データ保護規則に基づく大規模調査の開始を X に通知。EU のプライバシー面の調査も並行
  • 継続: 英国 Ofcom がオンライン安全規制に基づく調査を表明。フランス・インド等でも調査・規制対応が進行

注: 生成枚数・被害規模の数値は調査・報道により幅がある。本 Brief は具体的な生成枚数や内容の描写を行わず、属性・来歴の検証不在という構造に焦点を当てる。違法性の最終判断は各国当局の調査に委ねられる。

事象連鎖：属性も来歴も確かめられないまま生成される

本事象は、生成の時点で被写体の属性と生成物の来歴が独立検証されない構造に起因する。失敗が有害な拡散へ伝播する経路は以下の通り。

  1. 属性未検証の入力: 利用者が実在人物の画像と指示を AI に与える。被写体が同意しているか、未成年でないかは、生成の前に検証されない
  2. 来歴標識のない生成: AI が改変画像を生成する。生成物には、それが AI 生成であり誰の認可で作られたかを示す検証可能な来歴標識が付与されない
  3. 拡散: 生成物がプラットフォーム上で共有・拡散される。違法性・有害性の判定は、この後に行われる
  4. 事後の検出・削除: 通報・検出・規制対応により、削除や調査が作動する。ただしこれは生成と拡散の後に作動する事後の系列であり、拡散済みの被害は回復しにくい

構造的論点

本事象は Pillar 04（規制属性証明）の attribute-proof-bypass カテゴリに属する。中心的な失敗 primitive は、生成の時点で、被写体の同意・年齢という規制上重要な属性が独立検証されず、生成物に検証可能な来歴も付与されない点にある。secondary に data-provenance（AI 生成物の来歴）と ai-decision-integrity（生成という AI の行為の検証可能性）を併記する。

本件の重心は「公平性」や「コンテンツの良し悪し」ではなく、行為（生成・公開）の前に、規制が要求する属性が独立検証され認可された証跡があるかにある。同意・年齢は、本来であれば生成の前に検証されるべき属性である。にもかかわらず、生成は属性検証を経ずに実行され、生成物は来歴を欠いたまま拡散する。違法性の判定が生成・拡散の後に回るため、検出・削除は被害の後追いになる。

Brief 011（SynthID の透かしが統計的に剥がせ、AI 生成物の来歴標識が機能しない）と同根で、生成物の来歴が検証可能な形で固定されない問題である。Brief 034（eKYC で、撮影フィードの来歴が検証されないまま本人性が受理された）とも、属性（本人性／同意・年齢）が来歴未検証のまま通用する点で連なる。Brief 024（不可視 Unicode で目視と AI 入力が乖離する）の「表示と実体の乖離」を、生成 AI の属性・来歴へ移す。本事案が示すのは、生成 AI が公共空間で属性検証・来歴付与を欠いたまま動作することの帰結であり、被害が児童を含む点でその重大性は際立つ。

検出と証明の落差

通報窓口、検出技術、プラットフォームの事後削除、各国当局の調査（EU DSA・アイルランド DPC・英国 Ofcom 等）は、被害の把握・除去・抑止に不可欠であり、本 Brief がその役割を否定するものではない。とりわけ児童に関わる素材の検出・削除・通報は最優先の実務対応であり、強化されるべきである。

一方で、検出・削除は「この生成物が、同意・年齢の属性検証を経て、認可された来歴を持つか」を、生成の時点で独立には立証しない。透かしは剥がされ得（Brief 011）、検出は生成・拡散の後に作動し、削除は拡散済みの被害を完全には回復しない。欠けていたのは「この生成は、被写体の同意・年齢という属性が独立検証され、認可された証跡を伴うか」という生成時点の独立検証であり、これは事後の検出・削除とは別系統である。属性検証・来歴付与を生成の後に回す限り、対応は被害の後追いにならざるを得ない。規制分析（BISI 等）も、解決は生成の時点（upstream）にあると指摘する。

事前証明（pre-execution attestation）は、生成 AI の出力経路に、被写体属性の検証と来歴付与を 1 段挟むことで、この落差を埋める。生成の前に「被写体の同意・年齢という属性が独立検証され、認可されている」ことを要求し、生成物に検証可能な来歴標識を行為時点でバインドすることで、属性検証を欠く生成や、来歴を持たない生成物を、生成・拡散の前に区別できる。生成物の検出（detection 的な「これは有害か」）と、生成の事前証明（「この生成は属性検証・認可・来歴を持つか」）は代替ではなく 補完 の関係にある。属性・来歴を行為の前に独立検証する考え方は 「Proof-as-Auth: 鍵を一度も送らずにサインインする」（Lemma、2026-05）、検出と事前証明の thesis は 「AI 時代のサイバー防衛に残された、最後の層」（Lemma、2026-05）を参照。

対応経緯と業界動向

  • 規制当局: EU は DSA、アイルランド DPC は EU データ保護規則、英国 Ofcom はオンライン安全規制に基づき調査を進める。生成 AI のプラットフォームに対し、違法・有害コンテンツの生成・拡散を防ぐ義務の履行が問われている
  • 来歴・ラベリングの論点: AI 生成物への来歴標識・ラベリングの義務化（EU AI Act 等）が進むなか、来歴が剥離可能・事後付与では実効が伴わないことが課題として挙がっている。生成の時点で検証可能な来歴を付与する upstream の設計が論点
  • 業界横断の論点: コンテンツの事後モデレーションに依存せず、被写体の同意・年齢という属性検証と来歴付与を生成の前に独立検証可能な形で行う（attribute proof / pre-execution attestation）方向へ、生成 AI の信頼設計の重心を移す議論が進んでいる。児童に関わる被害の防止は、検出強化と並んで、生成時点の属性検証が不可欠である

Lemma による分析

本事象で露呈した落差（生成の時点で、被写体の同意・年齢という属性が独立検証されず、生成物に来歴が付与されない）に対して、Lemma は、生成という行為の前に、属性検証と来歴付与を独立検証可能な暗号証明として要求する設計を提示している。

  • 属性の事前証明: 生成の前に、被写体の同意・年齢という属性が独立検証され認可されていることを、署名付きで証明する。属性検証を欠く生成を、行為の前に区別する
  • 生成物の来歴バインド: 生成物に、それが AI 生成であり、どの認可・属性検証を経たかを示す検証可能な来歴を、生成の時点で docHash バインドする。事後の剥離・偽装を、来歴の側から検証可能にする
  • 選択的開示: 「被写体は同意済み・成人である」という属性条件を満たすことだけを最小開示し、被写体の個人情報そのものを環境外に出さない
  • スコープ付き認可: 生成 AI の出力を属性条件に縛り、条件を満たさない生成を証明なしには成立させない

これにより、生成の時点で固定された証明が、「この生成は属性検証・認可・来歴を備えるか」を、拡散の前に独立検証可能なトレイルとして機能させる。検出・削除（事後のモデレーション・規制対応）は被害の除去・抑止に、事前証明（生成時点の属性検証・来歴付与）は有害な生成の未然区別に、それぞれ相補的に働く。設計と適用範囲は、Pillar 04 — 規制属性証明 および Pillar 01 — 来歴証明 を参照のこと。

Sources

Brief 配布について

Lemma Critical Brief は Lemma が発行する脅威インテリジェンス・ブリーフです。本資料は公開情報の構造化分析であり、特定の組織への監査・診断・推奨ではありません。意思決定の参考として用いる場合は、貴組織の Lemma Critical 担当に直接ご相談ください。

Discovery Call → ホワイトペーパー → ✉️ ニュースレター →

(c) 2026 FRAME00, INC. — Built for decisions that matter.

関連 Brief
属性証明バイパスの全 19 件を見る
No. 052 · 2026-06-12

年齢を証明するために渡した政府 ID 7 万枚が、第三者から流出した

規制属性（年齢）の証明と生 ID の保管が分離されていない構造（Discord / 5CA）

属性証明バイパス データ来歴認証・認可
Brief →
No. 040 · 2026-06-09

保全の実態がない森林から、カーボンクレジットが発行・販売されていた

環境属性の裏づけデータが、発行時に独立検証されない構造（ブラジル Operation Greenwashing）

属性証明バイパス データ来歴
Brief →
No. 035 · 2026-06-08

検査は「完了」と記録されていたが、実施されていなかった

Boeing 787 で、記録の存在が実施の証明と取り違えられた

属性証明バイパス データ来歴認証・認可
Brief →
No. 034 · 2026-06-08

ライブ生体認証が「注入された映像」に突破された

KYC は本人の生体を確認したと信じたが、撮影の来歴は検証されなかった

属性証明バイパス AI 判断の完全性認証・認可
Brief →
No. 032 · 2026-06-08

正規の予約プラットフォーム内で、売上金の受領口座が書き換えられた

送金先変更が、資金移動の前に独立検証されなかった(Polaris Holdings / Booking.com)

属性証明バイパス データ来歴認証・認可
Brief →
No. 022 · 2026-06-04

OnlyFake

AI 生成 ID による KYC 突破

属性証明バイパス 認証・認可データ来歴
Brief →

Lemma Critical Monthly

実際に起きたリスク事案の構造分析(Critical Brief)を軸に、検出の先に必要な「証明」への視点を月 1 回お届け。

ニュースレターを購読
Cite this Brief
Lemma Critical Team. (2026).
"非同意の画像が、生成の時点で誰の同意も年齢も確かめられずに作られた — 被写体の同意・年齢と生成物の来歴が、生成時点で独立検証されない構造（Grok）".
Lemma Critical Brief No.050. Lemma / FRAME00, Inc.
https://lemma.frame00.com/ja/critical/briefs/050-grok-deepfake-consent-provenance/