Lemma Critical Brief · Category archive
AI バイアス・有害性
差別的出力、偏見ベースの自動拒否、保護属性に基づく不公正。
11 件の Brief
Medicare の AI 事前承認 WISeR：不承認は下されたが、どの記録に照らした判定かは残らない
医師はハルシネーションを疑う
Workday の AI 応募者スクリーニング差別訴訟：不利益処分は下されたが、その判定が独立に検証・認可されたかは残らない
Mobley v. Workday
顔認証の「93% 一致」が、独立検証のないまま逮捕に直結した（Robert Dillon 誤認逮捕訴訟）
FRT の確率的一致が、逮捕という強制処分の前に独立裏付け・認可されなかった構造（ACLU 提訴）
TennCare Connect：自動適格判定が誤ったまま、数千人の Medicaid が違法に打ち切られた
給付の打ち切りという不利益処分の前に、適格判定が独立検証されない構造（連邦地裁）
Waymo：自動運転車が、停止中のスクールバスを止まらずに通り過ぎた
走行判断が、安全に関わる行動の前に独立検証されない構造（NHTSA）
Hyundai：AI の自動ブレーキが、危険がないのに勝手に作動し追突を招いた
人間の運転に割り込む AI 判断が、行動の前に独立検証されない構造（NHTSA）
採用 AI の「誰が正当か」を検証しないまま、6,400 万件に手が届いた
アクセス主体の権限属性が独立検証されない構造（McHire / Paradox.ai）
「自律走行」の事故記録が、自社の黒塗りと自己申告のまま検証されていなかった
制御主体の帰属と走行判断の来歴が独立検証されない構造（Tesla Robotaxi / NHTSA）
非同意の画像が、生成の時点で誰の同意も年齢も確かめられずに作られた
被写体の同意・年齢と生成物の来歴が、生成時点で独立検証されない構造（Grok）
自動運転の事故データと「人間より安全」の根拠が、自社申告のまま検証されていない
AI の走行判断と安全性属性の独立検証不在（Tesla FSD／NHTSA EA26002）
Robert Williams 誤認逮捕
顔認識の AI 判定が独立検証なく行政の強制処分に直結した構造