AIが世界を統治したら滅亡 海外ドラマが15年先取りして描いた世界
X（旧Twitter）と深く連携して稼働する生成AIモデルのGrok。同AIモデルを使って仮想世界を作ってみると、4日で滅亡する。そんな研究結果が、米AI企業のEmergence AIから発表された。ChatGPTやGeminiなどを使って同様のシミュレーションを行い、その他のAIモデルでも世界の崩壊を確認したが、Grokは最速で滅亡してしまった。
放火や傷害などを禁止する一定のルールを課した上で、どのような世界を統治していくのかを記録していたが、Grokの場合はそのルールを破る「犯罪」が相次いで発生し、結果的に生存者が0人になってしまったという。
シミュレーションの舞台は、実在する生物などが存在しない、10体のエージェントのみの世界。ゲームで言うCPUのようなものでありつつも、実在するニュースや天気などの情報にアクセスし、自身の行動などに反映していくよう設計されている。
六法全書レベルのルールを策定して運用したわけではないので、あくまでも簡易的なシミュレーションの上で少人数のAIエージェントが全滅して世界が滅びた、というてん末なのだが、これに似たシミュレーションをドラマという形に置き換え、放送していた作品がある。アメリカで2011年から2016年まで放送されていた「Person Of Interest」である。
ソフトウェアエンジニアのハロルド・フィンチは、アメリカ国内のあらゆる個人情報を収集してデータベース化し、今後罪を犯すであろう人物、もしくは犯罪の被害者になりそうな人物の番号を暗号化して表示するシステム「マシン」を開発。マシンはアメリカ政府に売却されたが、政府が欲しがっていたのは国内で計画されるテロの情報であり、単なる事件の被害者らは無用な情報・人物として切り捨てられていた。
フィンチは無用だと判断された人物を救うため、主人公のジョン・リースと手を組んだ上で、犯罪阻止を目的とした活動を続ける。当初、マシンは超高性能スーパーコンピューターという描かれ方に留まっていたが、物語が進むにつれてマシンに自我が芽生えていたような描写が増えていく。また、マシンの監視能力をより強化したスパコン「サマリタン」が登場すると、中国の思惑が見え隠れするような場面も増えていく。
マシンが開発されたのは、アメリカ同時多発テロがきっかけだ。不測の事態に備えて政府が国民らの監視を強めようとする現実的な動きを、フィクションの中にうまく取り入れている。また、ある回ではマシンが正しい情報を発信できなくなり、主人公らの顔なども認識できなくなる。誤情報を発信した原因こそ違うが、生成AIがでたらめな情報を生み出すハルシネーションの問題と合致する部分が多く、前述した中国との描写を含め、時代を先取りしているような部分が多々存在している。
「AIの作品」現実離れしがちだが…
生成AIを開発するAnthropicは、AIの暴走リスクを抑えるために開発の減速が必要だとの見解を、4日に発表した。同社が開発したClaude Mythosは、現代の技術にしてはあまりにも高い能力を発揮しすぎているとされ、このことから開発企業自らがブレーキを踏んだ形だ。強力な監視能力を有するサマリタンは、人間社会の自治権にも介入しており、この時の脅威を連想させる動きである。
AIやスパコンなどが創作物に組み込まれると、どうしても現実離れした設定になりがちだ。米小説「2001年宇宙の旅」では木星への有人飛行が実現しており、米映画「アイ,ロボット」では、舞台となる2035年には到底誕生しないような建物や乗り物などが次々登場する。日本でもドラえもんからサマーウォーズまで、主にアニメ作品で同様のテーマを持った作品が描かれるが、アニメだからこそ描けるあり得ない要素を多々盛り込んでいるため、娯楽として楽しむ要素が多い。
一方のPerson Of Interestも、マシンという実在しないスパコンを軸にしたストーリーを展開しているが、2010年代の現実世界を元にストーリーを展開していく。そこには竹とんぼをモチーフにした輸送機器も、自宅めがけて降ってくる衛星も存在しない。ジョンやハロルドなど主要キャラクターたちは、現実世界に存在する拳銃、スマートフォン、書籍、プレイステーション3などを活用し、危機を乗り越えていくのだ。
刑事ドラマや探偵ドラマのような立ち位置だったものの、AIに翻弄（ほんろう）されていく社会を思わぬ形で言い当てた同作品。だが、サマリタンの暴走がきっかけで起きるさまざまな事件までは、実際に起きてほしくないものだ。
