2024年8月22日、GoogleがフラグシップスマートフォンのPixel 9シリーズをリリースしました。GoogleはPixel 9シリーズにおいて独自のAI機能をセールスポイントのひとつとしていますが、AI写真編集機能の「Magic Editor(編集マジック)」に搭載されているReimagineツールが、「写真が現実を捉えているという基本的な仮定を崩しつつある」とテクノロジーメディアのThe Vergeが指摘しています。

No one’s ready for this - The Verge

https://www.theverge.com/2024/8/22/24225972/ai-photo-era-what-is-reality-google-pixel-9



Pixel 9シリーズでは、すべてのモデルで生成AIを利用した写真編集機能である編集マジックを利用可能です。この編集マジックとよく似たAI写真編集機能がすでに競合であるSamsungのGalaxyシリーズの一部モデルで利用できるようになっており、近い将来に他のスマートフォンでも同様の機能が展開されることになるだろうとThe Vergeは予想しています。最新の便利な機能が広く利用可能になることは通常ならば「良いこと」ですが、AI写真編集機能の場合は「問題になる」と論じています。

写真は古くから人を欺くための手段のひとつとして使用されてきました。「ビクトリア朝時代の心霊写真」や「ネス湖のネッシーの写真」などがその一例です。しかし、これは「写真が現実を捉えている」という基本的な仮定を誰もが信じているからこそ起きた結果であるとThe Vergeは指摘しています。

映画のような特殊効果を施した演出されたシーンや、デジタルで編集された写真、ディープフェイクなど考慮すべき「本物ではない写真」はこれまでにもありました。しかし、「写真に対する直感的な信頼を台無しにするには、専門知識と特殊なツールが必要でした。偽写真はこれまであくまで例外であり、基本的なものではありませんでした」とThe Vergeは記しています。

しかし、こういった前提が崩壊しつつあるとThe Vergeは指摘。その理由は、AI写真編集機能の登場により、誰でも手軽に本物のような偽写真を作成することができるためです。

The VergeはPixel 9で使える編集マジックで作成した「生成AIで編集した写真」を複数掲載し、AI生成の偽写真がいかに手軽に作成できて、それでいて高精度なものに仕上がっているかを強調しています。以下の画像の左が通常の写真で、右がAIで編集した写真。



写真右側に写りこんでいるボトルや注射器のようなものはAIが生成したもの。



The Vergeは「現在、地球上で写真が社会的合意の要となっていない世界に住んでいる人は誰もいません。我々がこの世に生まれた限り、写真は何かが起こったことを正確に証明するものでした。レンタカーのフェンダーにあった凹みや、天井の水漏れ、テイクアウトの料理の中に入っていたゴキブリなどを証明するために写真が利用されてきたはずです。しかし、AIでこれらの写真を簡単に偽造することができるようになりました」と語っています。

AIで生成された事故現場写真



AIで生成された駅のプラットフォームに爆弾のようなものが置かれた写真



「これから起こることの兆しは既に見えている」とThe Vergeは記しており、その一例としてドナルド・トランプ氏がアメリカ大統領選挙の対立候補であるカマラ・ハリス氏の陣営が投稿した画像を「AI生成の偽画像である」と主張した一件を挙げています。

カマラ・ハリス陣営が投稿した集会写真はAI生成の偽画像とドナルド・トランプが主張し「これが民主党が選挙で勝つ方法」と痛烈に批判、しかし実際の写真である証拠が続々集まる - GIGAZINE



The Vergeは「AIが登場する以前から、メディアに携わる我々は、あらゆる画像の詳細と出所を精査し、誤解を招くような文脈や写真の加工がないか調べるなど、防御に努めてきました。結局のところ、大きなニュースには必ず誤情報の嵐が伴います。しかし、これから起こるパラダイムシフトでは、デジタルリテラシーと呼ばれることもある絶え間ない疑念よりもはるかに根本的な問題が発生します」と記し、AI生成画像が一般的になる今後の世界に懸念を示しました。

テクノロジー業界はこのような事態に備え、AI生成画像か否かを即座に判断できるように電子透かしの導入を進めていますが、標準の策定に業界は苦労しています。Pixel 9で作成したAI生成画像にも電子透かしとしてAI生成であることを示すメタデータが含まれているそうですが、これについてThe Vergeは「削除可能なメタデータが1行追加されるだけです」と指摘。

なお、The VergeはAI写真編集機能への懸念についてGoogleに問い合わせを行っており、Googleのコミュニケーションマネージャーであるアレックス・モリコーニ氏から「私たちは生成AIツールをユーザーのプロンプトの意図を尊重するように設計しており、つまり、ユーザーの指示があれば不快なコンテンツを作成する可能性があるということです」「とはいえ、何でもありというわけではありません。我々はどのようなコンテンツを許可し、どのようなコンテンツを許可しないかについて明確なポリシーと利用規約を定めており、悪用を防ぐための安全策を構築しています。時には一部のプロンプトが安全策に違反していないか挑戦することもあるかと思いますが、我々は導入している安全策を継続的に強化・改良することに尽力しています」とコメントしています。

実際、犯罪を助長したり暴力を扇動したりするようなプロンプトを利用すると、Pixel 9の編集マジックは「編集マジックはこの編集を完了できません。別の入力を試してください」というエラーメッセージを吐くそうです。ただし、この安全策は回避可能なものであり、それは上記の事例画像を見れば明らかです。そのため、「写真が現実を捉えているという基本的な仮定が崩れ去りつつある」ことは明らかであるとThe Vergeは指摘しています。