スマートフォンひとつで本物と見まごうようなAI画像が作れるようになるにつれて、本物の写真とAIによる偽物を区別する方法の必要性が急激に高まっています。そうした取り組みの代表的なものに、コンテンツの来歴を証明する技術である「C2PA」がありますが、その普及が遅々として進んでいない現状について、IT系ニュースサイトのThe Vergeが論じました。

This system can sort real pictures from AI fakes - why aren’t platforms using it? - The Verge

https://www.theverge.com/2024/8/21/24223932/c2pa-standard-verify-ai-generated-images-content-credentials

以下は、The Vergeが2024年8月22日にリリースされたGoogle Pixel 9のAI機能「Magic Editor」で加工した写真です。ヘリコプターの墜落現場をねつ造したり、覚せい剤使用の証拠写真をでっち上げたりするのがいかに簡単にできるようになったのかがわかります。





こうしたAI画像による混乱を食い止めるため、Microsoft、Adobe、Arm、OpenAI、Intel、Truepic、Googleなどの企業がC2PA認証に取り組んでいますが、C2PAによる検証済みのマークを目にする機会はこれまでのところほとんどありません。

C2PA運営委員会のメンバーで、Adobeのコンテンツ認証イニシアチブ(CAI)のシニアディレクターであるアンディ・パーソンズ氏は「まだ採用の初期段階にあることを認識することが重要です。仕様は確定しており、強固です。セキュリティ専門家によって検討もされています。実装はごくわずかですが、これは標準が採用される時の自然な流れなのです」と強調しました。

The Vergeによると、C2PAの普及が進んでいないのは相互運用性に問題があるからだとのこと。つまり、関係プラットフォームがC2PAを採用する方法には大きなばらつきがあるということです。

問題は、カメラで写真を撮影する段階から始まります。ソニーやライカなどの一部機種で撮影を行うと、ファイルにC2PAのオープン技術標準に基づく暗号化デジタル署名が埋め込まれますが、ライカの「M11-P」のような新モデルや、ソニーの既存モデルの「Alpha 1」「Alpha 7S III」「Alpha 7 IV」のような限られた機種しか対応していません。

世界で初めてAI使用履歴や作者の情報を画像に付与する「コンテンツクレデンシャル機能」を内蔵したカメラ「ライカ M11-P」 - GIGAZINE



デジタルカメラより身近な写真撮影デバイスであるスマートフォンも同様で、AppleとGoogleの両社は、C2PAまたはそれに準じた技術のiPhoneやAndroidデバイスへの導入に関するThe Vergeの問い合わせに回答しませんでした。

また、写真業界でよく使われている画像編集ソフトのAdobe PhotoshopやLightroomは、画像がいつどのように変更されたかをC2PA対応の「コンテンツ認証情報」として画像データに埋め込みますが、Affinity PhotoやGIMPなどの広く使われている人気の画像編集アプリは統一的で相互運用可能なメタデータ技術をサポートしていません。

人気のプロ用写真編集ソフトウェア・Capture Oneの開発者は、The Vergeに対し、「AIの影響を受けている写真家をサポートすることに尽力しており、C2PAなどの追跡機能の採用を検討しています」と語りました。

たとえ画像に真正性データが埋め込まれていても、それが閲覧者の目に入るかどうかは別です。なぜなら、X(旧Twitter)やRedditなどはオンラインプラットフォームでは、アップロードされた画像に埋め込まれている真正性データが表示されないからです。

一方、C2PAでコンテンツをチェックしているFacebookでは検証が厳しすぎて、本物の写真に「AI製」のラベルがついて写真家たちの反発を招いたことがあるなど、AI画像を区別する技術の運用には課題が山積しています。

Metaが本物の写真に「AI製」というラベルを付けているという報告 - GIGAZINE



たとえ奇跡的にあらゆるデバイスやソフトウェア、ソーシャルメディアで一気にC2PAが普及したとしても、デマや偽情報の懸念は消えません。検証可能な証拠が複数あるにもかかわらず、トランプ氏の支持者が「ハリス氏の集会写真はAIで生成した偽の画像」という指摘を信じてしまった事例からもわかるように、自分が信じたいものしか信じない人もいます。

C2PAに取り組んでいるデジタルコンテンツ認証プラットフォーム・Truepicで最高コミュニケーション責任者を務めるムニエ・イブラヒム氏は「どれも万能薬ではありません。悪影響のリスクは軽減できますが、生成ツールを使って人々を欺こうとする悪意ある人は常に存在するでしょう」と述べました。