AIやホログラム技術を用いた「デジタル幽霊」のビジネスとは？
AI技術の発達により、人間らしく対話できるチャットボットや、違和感の少ない画像・映像生成技術などが生まれています。それらの技術に伴って生まれつつある「デジタル幽霊」というビジネスモデルの詳細や危険性などについて、データサイエンスの専門家が解説しています。
An eerie ‘digital afterlife’ is no longer science fiction. So how do we navigate the risks?
生成AIの急速な進化により、チャットボットとの自然な対話やコンテンツの自動生成などが簡単に行えるようになっています。AIはまったく架空の人物写真や、存在しない人物の声を生成することもできますが、OpenAIの「Voice Engine」は15秒の音声から「クローン音声」を生成できたり、Googleの「VLOGGER」は1枚の写真と音声から「身ぶり手ぶりを交えて話すリアルな動画」を生成できたりと、実在する人物の写真や動画をでっち上げる「ディープフェイク」も可能です。時には、生成AIで実在する女性の「ディープヌード」の作成が問題になることもあります。
生成AIアプリで男子学生が女子の「ディープヌード」を作成する問題が深刻化している - GIGAZINE
デジタル幽霊、もしくはデジタル死後のビジネスとは、ディープフェイクと仕組み自体は同じです。亡くなってしまった人のSNSに投稿された内容、過去の電子メールやテキストメッセージの傾向、音声録音からのデータを使用して学習することで、まるでその人とやりとりしているような「デジタル人格」を作り上げます。
デジタル幽霊ビジネスは実際にいくつか登場しており、HereAfterというアプリはインタビュー形式で思い出を保存していくことで死後にその人と対話できるようなチャットボットが作成できたり、MyWishesというサービスは遺言書や葬儀の準備などいわゆる終活と合わせて未来にメッセージを送信し遺族に届ける機能があったり、さまざまな形が考えられています。また、香港のロボット工学会社であるハンソン・ロボティクスは、個人の記憶や性格特性を利用して人々と交流する「胸像ロボット」を開発しました。
これらのテクノロジーにより、非常にリアルで、ものによっては対話も可能な死者のデジタルコピーを作ることができます。しかし、オーストラリアのモナッシュ大学でデジタル戦略およびデータサイエンスを研究するアリフ・ペルダナ氏によると、このデジタル幽霊は少し不気味であるだけではなく、具体的な倫理的、心理的懸念があるとのこと。
死者のデジタルコピーと対話したり似顔絵を見たりできるような技術は、身近な人を失った悲しみを和らげる可能性があります。しかし、一部の人にとっては、悲しみを和らげるどころか、悪化させる可能性もあります。ケンブリッジ大学の研究者らが発表した「デジタル死後の世界産業における生成AIの責任ある応用について」という論文では、デジタル幽霊のAIは設計上の安全基準を満たしていないため、心理的危害を引き起こす可能性があると指摘しています。
また、主要な倫理的問題として、ペルダナ氏は同意、自律性、プライバシーの懸念を挙げています。例えば、自身の文章や絵などをAIの学習に使われることを拒否するクリエイターの訴えや、有名人のディープフェイクが悪用されるケースがしばしば問題になりますが、その場合に当事者は被害を訴えることができます。しかし、死者はAIに学習されることを拒否できないため、自身のデジタルコピーを作られることへの同意の問題が伴います。
AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている - GIGAZINE
また、生前の同意があったとしても、悪用やデータ操作のリスクも考えられます。デジタル幽霊は、企業が商品やサービスの宣伝に利用したり、故人が決して指示しなかった思想や行動を伝えるために改変されたりといった危険性が避けられません。
ペルダナ氏は「急速に成長しているこの業界に関する懸念に対処するには、法的枠組みを更新する必要があります」と指摘しています。具体的には、デジタル遺産のひとつとなる故人のデジタルコピーを誰が継承するか、保存されたデジタル人格の所有権は企業に帰属するのか遺族に帰属されるのかなどの問題に対処する必要があります。EUの一般データ保護規則(GDPR)では、死者のSNSへアクセスすることは基本的に制限されているなど、死後のプライバシー権を認めています。GDPRの解釈を広げてどこまで適用するか、思慮深い規制と倫理ガイドラインを実施する必要性など、企業と技術者および学会や政策立案者がしっかり対話する議論の余地が数多く残っているとペルダナ氏は述べています。
