X、Grokの性的ディープフェイク問題に“対策”を発表 。でも根本解決とは言いにくい
世界的問題に発展しているGrokによる「性的ディープフェイク生成問題」。インドネシアがGrokを一時的にブロックし、英国政府が取り締まりに動くなど、かなり深刻な事態になっています。
ここまで事が大きくなった背景には、X（旧Twitter）が、有料ユーザーに限定して利用を許可するなど、根本的な解決とは言いにくい対応を続けてきたこともあります。非難の声が高まるのも無理はありません。
そんな中、Xが、新たな制限を導入すると発表しました。
ついに本格的に対応してくれるのか、と一瞬ホッとしたのですが、実際の内容を見ると、「問題を完全に止める」というより、「できる範囲で被害を抑えにいく」措置にとどまっている印象です。
@Grok経由は制限するけど“抜け道”は残る
Xのセーフティアカウントによると、まず@Grokアカウントをタグ付けして行う画像編集について、新たな技術的制限を導入したとのこと。具体的には、実在の人物がビキニなど露出の多い服装をしている画像を編集する行為を防ぐ仕組みを追加したそうです。この制限は有料ユーザーを含むすべての利用者が対象とされています。
また、@Grok経由での画像生成や編集は、現在は有料ユーザーに限定されています。Xは「違法行為やポリシー違反を行ったユーザーの責任を追及しやすくするため」と説明しています。
ただし、Grokそのものが使えなくなったわけではありません。Xアプリやウェブ版の「Grokタブ」、さらにはGrokの単独サイトやアプリからは、無料ユーザーでも画像生成が可能な状態が続いています。
実際、米Gizmodoの検証では、こうした経路を使えば問題となる画像生成が今も可能でした。
違法な地域ではブロック。でもそれ以外は？
今回の発表で最も大きな変更点としてXが強調しているのが、「ビキニや下着などを着用した実在人物の画像生成を、違法とされている地域ではブロックする」という方針です。この制限は@Grok経由だけでなく、X内のGrokタブにも適用されるとしています。
とはいえ、この対応はあくまで地域に依存しています。イギリスではこうした画像を違法化する動きが進んでおり、規制当局Ofcomは、今回の変更後も調査を継続すると明言しています。なので、英国では実際にブロックが機能する可能性は高いでしょう。
しかし、法規制が未整備、あるいは曖昧な国や地域では、同様の問題が引き続き起こる可能性が残されています。
批判と調査は止まらない
Grokをめぐる問題は、ここ数週間で一気に表面化しました。他人が投稿した写真をもとに、本人の同意なく性的な画像を生成する行為が横行し、中には未成年が関わるケースも含まれていたとされています。ある研究者の調査では、Grokが1時間あたり数千枚規模で性的・脱衣風の画像を生成していたという報告もありました。
各国の反応も厳しく、マレーシアやインドネシアではGrokへのアクセスが遮断され、EUやイギリス、アメリカ・カリフォルニア州でも調査が進んでいます。一方でXは、こうした動きと並行して、訴訟の管轄をテキサス州の特定裁判所に限定するよう利用規約を変更しました。この対応を受け、メディア監視団体がXから撤退を表明するなど、波紋は広がっています。
Xは「安全なプラットフォームを目指す」「同意のないヌードや児童性的搾取は一切容認しない」としていますが、今回の対策が十分かどうかは、正直なところ疑問が残ります。
自分の写真が勝手にヌードにされ、それをSNS上でばら撒かれるなんて、被害者の心の傷は計り知れません。やった方は気軽な気持ちだとしても、単なるイタズラや表現の自由では片付けられません。
やれることと、やっていいことは違います。自由には、必ず責任がセットでついてきます。
Grokをめぐる議論は、まだまだ続きそうです。
Source: X
GIZMODO テック秘伝の書
