投獄されているパキスタンの元首相がAIによる音声クローンで獄中から選挙活動を展開
パキスタンのイムラン・カーン元首相は、自ら書いた原稿を外部の協力者にAIで音声化してもらうことで獄中からオンラインでの選挙活動を展開することに成功しました。同時にパキスタンの規制当局はX、Facebook、Instagram、YouTubeなどSNSへのアクセスを遮断して選挙活動を妨害しているとみられています。
Founding Chairman Imran Khan's speech in AI voice. Can't stop praising Dr Asma for staying up 36 hours to get this done in time, Nausheen for translations and Intazar Bhai for getting notes from the Legend Imran Khan! #PTIVirtualJalsa pic.twitter.com/9CoDVT4sXb— Jibran Ilyas (@agentjay2009) 2023年12月17日
Imran Khan deploys AI clone to campaign from behind bars in Pakistan | Imran Khan | The Guardian
1996年にパキスタン正義運動を結党し、2018年に首相になったカーン氏は2022年に内閣不信任決議によって失職し、2023年5月に汚職の容疑で逮捕されました。1審判決で有罪を宣告された8月5日から刑務所に入っており、8月29日に高等裁判所が一審判決の効力の一時停止を決定して一度は保釈されるものの保釈後すぐに公職守秘法違反容疑で再度逮捕され、以降身柄を拘束され続けています。なお、カーン氏は公職守秘法違反容疑について「2月に予定されている総選挙を妨害するためにでっち上げられた」と主張しています。
今回のAI音声を作成したのはパキスタン正義運動で、カーン氏は弁護士を通して速記原稿を送り、そのテキストを既存の音声サンプルから「音声クローン」を作成するツールを使用して音声化したとのこと。この音声はパキスタン正義運動支持者による5時間の演説ライブストリームの最後に放送されました。
AIの音声クローン技術によって作成されたイムラン・カーンの演説 - YouTube
5月にカーン氏が逮捕された際に暴動が発生したことを受けて、パキスタンの検閲当局はカーン氏が放送することを禁止しており、放送時付近の7時間にわたってX、Facebook、Instagram、YouTubeなどSNSへのアクセスが規制されました。
⚠ Confirmed: Live metrics show a nation-scale disruption to social media platforms across #Pakistan, including X/Twitter, Facebook, Instagram and YouTube; the incident comes just ahead of a major virtual gathering organized by persecuted opposition leader Imran Khan's party, PTI pic.twitter.com/ifWNN9ZwYL— NetBlocks (@netblocks) 2023年12月17日
アクセス規制があったにもかかわらず、放送はのべ450万人以上に視聴されたとのこと。ただし、視聴者の1人であるサイード・ムハマド・アシャールさんは「(演説には)あまり説得力がなく、文法も変でした。でも努力は評価します。率直に言って本物の集会や本物の演説に代わるものはありません」と述べています。
AIを利用して悪意のある人が指導者になりすまし、偽情報をまき散らす可能性については多くのアナリストから警告されてきましたが、逆に国家による抑圧を回避するための利用方法についてはまだあまり語られておらず、今後多様な活用法が登場する可能性が高そうです。
