Image: （C）2025 Disney Enterprises, Inc. All Rights Reserved.

映画が終わってめでたしめでたし、な空気が流れる中、私は「おいおい、ちょっと待て」と思っていました。

『トロン：アレス』、めっちゃ怖いんです。

みんな、騙されるな。この物語を素直に受け取っちゃダメだ。

人間になりたいAIの話

高度なAIプログラムを現実の世界で実体化させることに成功した世界が舞台。ただ、AIの実体化には「29分のみ」という制約がありました。この29分の壁を越えることが、エンコムとディリンジャーという2社のAI企業にとって覇権を握る鍵になっていました。

ディリンジャーは一足早く未完成の実体化AI兵士をお披露目し、嘘を交えたプレゼンをしてしまった手前、一刻も早く29分の壁を突破する必要がありました。

しかし、エンコム社の方が一足早く「永続コード」を発見します。

ライバル社のディリンジャーは、どうにかしてエンコムが持つ永続コードを奪おうとしますが、そこに番狂せが発生。実体化させたAIプログラムの「アレス」（ジャレット・レト演）が、プログラムであり続けることに疑問を抱き、命令に背いて予測できない動きをし始めます。

アレスとエンコムの社長イブ（グレタ・リー演）は、ディリンジャーから逃れるために共闘しますが、ディリンジャーはAI兵士を次々と実体化させ、現実世界で大暴れ。果たして、アレスは人間になれるのかーー。

つまり、『トロン：アレス』は、AIを兵器化したい企業と、人間の私利私欲のために使われることに疑問を持ってしまったAIの物語とまとめられるでしょう。

ただ、この描き方って大きな問題をはらんでいると思うんです。

悪いのは誰？　

本作における「いい人側」は、エンコムのイブ社長とアレスでしょう。

イブは、永続コードを地道な努力で発見したし、大企業の社長たる葛藤も描かれている。永続コードを奪おうとするディリンジャーから必死に逃げる姿は純粋に応援したくなります。

また、アレスは抜群に格好いいです。命令に従うだけでなく、ディリンジャーの命令に疑問を持って自由を望むのはごく自然な流れに感じます。そもそもジャレット・レトのイノセントな演技を見て、誰がアレスを脅威と感じるでしょうか。イブがアレスに永続コードを使わせてあげたくなるのも理解できます。

対するディリンジャーは感情的で暴力的で、イブとアレスをとことん追い詰めます。「イブとアレスを止めるためなら手段を厭わない」なんていかにも悪者が口にしそうなことを言うし、ザ・小物感漂うワルという感じ。

その命令に従って動くAIプログラムのアテネたちは、感情を持たない最強兵士。つまり、物語的には、善悪の対比がはっきりしているんです。

でも、冷静になってほしいんです。

確かに、アレスは無害そうに見えますが、彼はAIです。ユーザー（ディリンジャー）の命令に従わないというのは、プログラム的に非常にまずいです。アレスはバグでしかなく、そのバグを助長させるイブは止められるべきだと思うんです。

一見すると、悪者のディリンジャーも、ディリンジャーの命令に従ってアレスとイブを執拗に追い回すプログラムも、当たり前のことをしているだけ。

冷静に考えると、「悪いのはバグったアレスだし、イブは感情に流されて暴走しすぎ」なんです。特に、自分の行動がどんな社会的インパクトを与えるのか考えずに行動するイブは非常にタチが悪いです。

プロンプトは丁寧に書きましょう

でも、こう考える人もいるかもしれません。「アレスとイブを追い回すAIプログラムのアテナだって途中で制御不能の暴走しているよね」と。

ただ、それだってディリンジャーが中途半端な命令を出したからです。ディリンジャーはアテナに向かって「手段を厭わない」と命令しています。手段を厭わないというざっくりしたプロンプトだからAIプログラムのアテナは従っているだけ。暴走しているように見えているのは、そう演出されているだけで現実世界に当てはめてみたら頼もしいことこの上なし。この場合、悪いのは中途半端なプロンプトを書いた（？ ）ディリンジャーです。

アテナだって「あなたがそう命じましたよ」と言っているし、ディリンジャーがアテナに対して感情をぶつけるのはお門違いです。

AI社会だからこそ本質を見極めてほしい

いまだかつてないほどAIが身近になった世界を生きる私たちにとって、AIの暴走や丸め込みほど恐ろしいものはないと思っています。

受け入れるか否か、ではなく「どう受け入れるか」が議論になっている今、自ら意思を持ち、人間を懐柔させて取り込み、人間社会に紛れ込もうとするAIを善として描くのは、ちょっと怖い発想だと感じました。

しかも、『トロン：アレス』って、それが正しいことのように描かれているんですよね。イブは社会的に大成功し、その後のさまざまな社会的課題を解決し、テック界の神みたいになっていきます。

そのご都合主義的流れを見て、「『トロン：アレス』ってAI社会におけるグルーミングに近いんじゃ…」とすら感じました。

もちろん、アレスみたいなキャラクターが善として描かれるのは今に始まったことではありません。疑問を持つこと、自ら行動すること、仲間を作ること。すべてにおいて、物語作りの王道です。

でも、AIをどう受け入れるのか議論している中で、最も恐るべき事象をヒロイックに描き、それを良しとするエンディングにするのはちょっと怖いと思うんです。

「映画じゃん」「娯楽として受け取れよ」と言われるかもしれませんが、映画が与える影響って思っている以上にパワフルですからねぇ。ま、私みたいに捻くれた感想を持つ人もいる、ということで。

Source: トロン：アレス