Lemma Critical Brief · Category archive
データ来歴
RAG poisoning、訓練データ汚染、document chain の改ざん。
6 件の Brief
Stripe の信頼された API インフラが、カード窃取コードの配送と窃取データの保管に転用された
allowlist はドメインの身元を信頼し、運ばれる内容の来歴を検証しない
不可視 Unicode による指示インジェクション
目視と AI 入力の乖離
OnlyFake
AI 生成 ID による KYC 突破
SynthID 透かしのリバースエンジニアリング
AI 生成コンテンツの来歴標識が統計的に剥がせる構造
Noroboto 攻撃
フォント偽装による AI 文書レビューの入力完全性の偽装
公開 API 経由の Discord 20.5 億メッセージのスクレイピング
公開チャンネルデータが AI 学習データセットとして再配布される構造