″ヌードAI″で一日1万円？ 「ディープフェイク」の時代に心すべきこと
ウクライナに侵攻中のロシアでは一部地域のテレビ局やラジオ局がハッキングされ、ディープフェイクのプーチン演説が流れる事件が発生（写真はたぶん本物）
あらゆるメディアから日々、洪水のように流れてくる経済関連ニュース。その背景にはどんな狙い、どんな事情があるのか？ 『週刊プレイボーイ』で連載中の「経済ニュースのバックヤード」では、調達・購買コンサルタントの坂口孝則氏が解説。得意のデータ収集・分析をもとに経済の今を解き明かす。今回は「生成AIが蔓延する時代」について。
＊ ＊ ＊
「ヌードをAIで生成して一日1万円？」。ひさびさの衝撃だった。『Stable Diffusion（ステーブルディフュージョン）』等の生成系AIで美女・美男を生成する流行は知っていた。電子写真集も大量に出版されている。実物のモデルがいないからいくらでも出せる。上位にランキングされれば一日に1万円にはなる。
その話を聞いたころ、官僚になる東京大学卒業生が10年で半減したとの報道を目にした。幼い頃から学んでキャリア官僚になった秀才の初任給が22万円程度。AIエロ写真をせっせと作る若者に負けてしまうわけか。私たちはどんな時代に生きているのだろう。
同級生の女子生徒の写真を画像編集ソフトで�ッΔ�せる�ド堝呂�者は昔からいたが、いまでは短時間で本物と見間違う多量の写真が完成する。本物って何なの？
『ChatGPT』で有名なOpenAIは、実在のアーティストに新たな曲を�ゲ里錣擦譛ゲ山收言�系AI『Jukebox（ジュークボックス）』を公開している。公開された曲を聴くと、まだまだといった感じだが、少し先の未来には、精度は異常に上がるだろう。
悪用できないようサービスの固有名詞は書けないが、中国製のAIを使って有名歌手にある曲をカバーさせた動画があり、私は最初、本人が歌っていると思った。バンドの歌入れや、縁起でもないがボーカリストが急逝したバンドの活動継続にいたるまで、さまざまな議論を巻き起こすだろう。
いっぽうで、死んだ妻の声を使って曲を歌わせた夫の感動的なエピソードもある。先立たれた配偶者の声で話し相手になってくれるサービスがあれば、日本中の高齢者はある種の生きる意味を再確認するかもしれない。「じいさんや、ひさしぶり」。どこまでなら可で、何が不可か。
ところでテレビ局員に訊（き）くと、最近タレ込まれる動画素材はフェイクかどうか見分けが難しくなったという。可能な限り現場に出向き裏取りを進め、リスクがあれば報じない。
しかしネットメディアはそのまま流し、デマ拡散装置となるケースがある。米大統領予備選では、共和党のデサンティス陣営がトランプ候補のAI生成画像でネガティブキャンペーンを行なった疑いも報じられている。
先日はロシアのプーチン大統領が戒厳令を出すフェイク演説が流れた。これは放送局がハッキングされたのだという。クレムリンはただちに否定したが、その否定声明もロシアシンパの誰かが流したものではないか、と疑いたくなってしまう。
たとえば映画では、歴史上の人物と俳優が話す架空のシーンがよくあるが、そのレベルの動画を誰もが作成できるようになる。AIで動画を生成した際は特定の情報を埋め込む、音声ならなんらかの周波数でサインを発する、などの仕組みはありうるが、それらを解除するソフトも出るだろう。
さらに、そもそもルール無視でディープフェイクを売りにする企業も登場するはずだ。結局のところ、個人で楽しむなら大丈夫、ただ公開して誰かの権利を侵害したり社会的混乱を引き起こしたりした場合は厳罰化という流れに進むしかない。
凡庸な見解だが、個人としては、二重の情報源を探す習慣が必要だ。すべてがAI生成だと疑う態度をもつべきだろう。「テキストで冗談を書くくらい、動画も音声もウソだらけ」と思えばいい。あなたに届く取引先のメールもAIが書いているのだ。
●坂口孝則（Takanori SAKAGUCHI）
調達・購買コンサルタント。電機メーカー、自動車メーカー勤務を経て、製造業を中心としたコンサルティングを行なう。『営業と詐欺のあいだ』など著書多数。最新刊『調達・購買の教科書 第2版』（日刊工業新聞社）が発売中！
写真／SPUTNIK/時事通信社
