AIの発展と普及により、実在する人物にそっくりな顔や声で話すディープフェイク動画を誰でも容易に作成できるようになり、それに伴ってディープフェイク動画の詐欺も急増しています。日刊紙のニューヨーク・タイムズは、インターネット上にあふれているディープフェイク詐欺動画の中でも、特にテスラやSpaceXのCEOを務めるイーロン・マスク氏を登場させたものが多いことを報じました。

How ‘Deepfake Elon Musk’ Became the Internet’s Biggest Scammer - The New York Times

https://www.nytimes.com/interactive/2024/08/14/technology/elon-musk-ai-deepfake-scam.html



カナダに住む82歳のスティーブ・ビーチャム氏は、2023年末にマスク氏が「大幅なリターンを約束する投資会社」を宣伝する動画をインターネットで目にしました。そこでビーチャム氏は、動画で宣伝されていた「Magna-FX」という会社に連絡し、248ドル(約3万7000円)で口座を開設しました。

その後、投資資金に加えて「管理手数料」「資金の移動にかかる費用」といった名目での送金が積み重なり、ビーチャム氏は最終的に69万ドル(約1億円)以上をMagna-FXに送金しました。Magna-FXの担当者はある時点から、ソフトウェア経由でビーチャム氏のコンピューターを制御し、投資資金を移動させていたとのこと。

この時点でビーチャム氏は退職後の貯蓄をほとんど使い果たし、クレジットカードでの借入れや妹からの借金もしていましたが、なおもMagna-FXは追加費用を支払うように求めてきたそうです。そこで、ようやくビーチャム氏が警察に連絡したところ、一連のやり取りはすべて詐欺だったことが発覚しました。

詐欺が発覚した後、ビーチャム氏がMagna-FXとのやり取りに使っていたウェブサイトや電話番号、メールアドレスといった痕跡はすべてオフラインになりました。ビーチャム氏に残されたのは、詐欺師と共有していなかった退職金口座と年金だけであり、退職後に世界旅行をするという計画も実現できなくなってしまいました。



ビーチャム氏が目にしたマスク氏が登場する宣伝動画は、詐欺師がマスク氏の本物のインタビューを元にして作ったものと思われます。AIツールを使えば用意した台本をマスク氏の声で読み上げさせて、口元の動きを台本に合わせて微調整することも可能であり、一見しただけでは視聴者がディープフェイクだと見抜くのは困難です。

これらのディープフェイク詐欺動画はここ数カ月でインターネット上にあふれかえっており、会計事務所のデロイト・トウシュ・トーマツの推定によると、AIを搭載したディープフェイクにより年間数十億ドル(数千億円)の被害が発生しているとのこと。

ディープフェイク詐欺動画の制作費はわずか数ドル(数百円)であり、作成にかかる時間も数分で済みます。ディープフェイクの監視や検出を行う企業・Sensityの共同創業者兼脅威インテリジェンス責任者であるフランシスコ・カヴァリ氏は、「この詐欺はうまくいきます。そのため、詐欺師らは国を超えてキャンペーンを拡大し続け、複数の言語に翻訳し、さらに多くのターゲットに詐欺を広め続けます」と述べています。

詐欺師が作成したディープフェイク詐欺動画の例が以下。経済紙のウォール・ストリート・ジャーナルが行った実際のインタビューを元にして、AIツールを使ってマスク氏の声で台本を読み上げさせ、口元の動きを微修正しています。さらに、海外メディア・BBCのインタビューのテロップを入れ、本物のインタビュー動画らしく見せかけています。ディープフェイク詐欺動画はかなりリアルであり、マスク氏の発話に特徴的なリズムや、出身である南アフリカのアクセントまで模倣されているとのこと。



インターネット上にどれほどのディープフェイク詐欺動画が存在するのかを正確に定量化するのは困難です。しかし、Facebookの広告ライブラリには大量のディープフェイク詐欺動画が存在するほか、YouTubeで事前に用意したディープフェイク詐欺動画をライブ配信として配信するケースもあるとのこと。

Sensityが2023年後半以降に登場した2000件以上のディープフェイク詐欺動画を分析したところ、マスク氏は全体の約4分の1に登場しており、群を抜いてディープフェイク詐欺動画への登場頻度が高いことがわかりました。特に仮想通貨詐欺においては、マスク氏の登場率は90％を超えていました。なお、ディープフェイク詐欺動画によく登場した人物としては、マスク氏の他にも著名な投資家のウォーレン・バフェット氏、Amazon創業者のジェフ・ベゾス氏などが挙げられています。

仮想通貨コミュニティを研究している専門家のモリー・ホワイト氏によると、マスク氏のファン層である保守派や反体制派、仮想通貨愛好家は富を得るために通常とは違う方法を模索することが多く、仮想通貨詐欺の格好の標的になっているとのこと。ホワイト氏は、「『どこかに富の秘密が隠されている』と信じている人々が間違いなく存在します。彼らはその秘密さえ見つければいいと考えているのです」と述べました。

また、詐欺師は仮想通貨やAI、マスク氏のことはよく知っている一方で、安全な投資については詳しくない「高齢のインターネットユーザー」を標的にすることが多いそうです。カリフォルニア大学デービス校のフィン・ブラントン教授は、「高齢者は常に詐欺に引っかかりやすく、利益を上げやすい人々でした」と述べ、Facebookのようなプラットフォームが登場する以前から高齢者は詐欺のターゲットになってきたと指摘しました。