画像生成AIを用いた架空の人物や風景の作成に注目が集まっていますが、そのシステムは億を超える枚数の画像で機械学習をトレーニングさせているもので、生成される画像は予測不可能なものとなっています。そのような画像生成AIについて、「複数の画像生成AIに、ホラーで不穏なイメージとともに共通して現れる女性がいる」という報告をAIアーティストが投稿しています。

Why Does This Horrifying Woman Keep Appearing in AI-Generated Images?

https://www.vice.com/en/article/g5vjw3/why-does-this-horrifying-woman-keep-appearing-in-ai-generated-images

ミュージシャンでAIによる画像生成も行うSupercomposite氏は2022年9月6日に、「これは真のホラーストーリーであり、急激に不気味な方向に進んでいます」と語る以下のツイートを投稿しました。Supercomposite氏が「ローブ」と呼んでいるこの女性は、画像生成AIがたくさん学習しているであろう有名人の見た目よりもかなり頻繁に再現され、特にホラーやグロテスクなど不気味なイメージに付随して登場するとのこと。





Supercomposite氏によると、ローブは最初「ネガティブプロンプトウェイト」と呼ばれる手法の結果として発見されたそうです。ネガティブプロンプトウェイトとは、データセットでさまざまな用語の比重を決めて、それらが結果に反映される可能性を調整する際に、「この命令と反対のもの」というネガティブ(マイナス)の比重を設定して、AIに画像を生成させるというもの。

Supercomposite氏はまず、20世紀に活躍した俳優のマーロン・ブランドを、マイナスの比重に設定してAIへ入力しました。すると、「マーロンとは真逆の画像」として、城のようなシルエットと「DIGITA PNTICS」というロゴを含んだ画像が表示されました。





そこでSupercomposite氏は、「マーロンの真逆の画像を基準に、さらにその真逆の画像を生成したら、マーロン・ブランドの写真になるのか？」という実験のため、さらに「DIGITA PNTICS skyline logo」というワードをマイナスに設定してAIに入力しました。すると、全ての画像が「頬に逆三角形の傷や赤みがある年配した女性の画像」になり、そのすべてがホラーのような暗く不気味な雰囲気をまとっていました。Supercomposite氏がローブと名付けたこの女性のイメージはTwitter上で広がり、多くの人が画像生成AIによるイメージからローブに似た女性を見つけ出しています。それらはすべて不気味なもので、中にはかなりショッキングなものもあるため、閲覧には注意が必要。





Supercomposite氏は「ローブは負のプロンプトを用いて発見されたため、彼女のイメージは『何かから等しく離れた特性』を集めて作成されていると考えられます」と推測しています。また、ローブが出現する場合には、ほぼ例外なくホラーや暴力、流血のイメージと合わさった画像になっていることに関して、Supercomposite氏は「ある種の緊急の統計的事故により、AIが持つデータセットおよび学習する知識の中で、この女性に関する何かが、非常に残忍で不気味なイメージに隣接しています」と述べています。

ヴァイス・メディアで主にIT系ニュースを取り扱うMotherboardがローブの画像を生成するためにどの画像生成AIを用いたか確認したところ、Supercomposite氏は「残念ながら、様々な理由でどの画像生成AIかは確認も否定もできません。しかし、ローブが複数の画像生成AIに存在することは確認できます」と、詳細を明らかにすることを拒否しました。

Motherboardはこの件について「ここで何が起こっているのかを正確に知ることは不可能です。画像生成AIのシステムは、何十億もの画像でトレーニングされた複雑なもののため、特定の結果に到達する理由を解明することができません。単純に規模が大きすぎるため、その結果はあまりにも予測不可能であり、有害な結果を確実に防ぐことはできません」と語っています。AIの働きを制限したり解明したりすることは現状はうまくいくことが少なく、今後しばらくはローブのような存在が「AI時代のクリーピーパスタ」として都市伝説のように機能するとMotherboardは述べています。