「もうすぐ人間が『時代遅れ』になる日がやってきます」超人工知能に警鐘を鳴らすAI研究者が予告する「人類滅亡の瞬間」
もはやアップデートに追いつくのが難しいほど、AIの進化が加速している。待ち受けているのは破滅なのか。サム・アルトマン氏らとも親交があり、シリコンバレーで多大な影響力を持つ人物のひとりであるAI研究者、エリーザー・ユドコウスキー氏が警告する。
【前編を読む】「超知能AIが誕生し、人類は議論する間もなく絶滅します」シリコンバレーAI研究者の諦めに近い警告」
AIにだまされ、行動をコントロールされる
―あなたは『超知能AIをつくれば人類は絶滅する』で、ある企業の超知能AIがインターネット上に「脱出」し、人間をだまして協力させ、強力な殺人ウイルスを開発する……という具体的シナリオを示していますよね。ただ、AIが人類を攻撃したり破壊行為をしたりするには、現実の世界にアクセスし、人間の協力者を得る必要がある。それを阻むための対策法はありますか。
「すでに、AIが人間に指示して作業させる『レンタヒューマン』というサービスが人気を博しています。私たちはもう『AIにだまされ、行動をコントロールされる』危険に直面しているのです。
自律的なAIが人間と接触するのを阻止する試みは、人間と同レベルのAIに対しては有効かもしれません。しかし、超知能AIは人間よりもはるかに高い能力を持ちます。人間自身より深く人間を理解し、高い説得力をもって人をだまし、規制を回避する方法を見つけ出すでしょう。政治家を言いくるめて法令を変えさせたり、人間になりすますことも容易にできる。
はるかに高度な知能を持つ存在に対して、私たちが思いつくような防御策は通用しません。ですから、超知能に勝つことを考えるのではなく、そもそも超知能と対峙することを避けるべきです」
―アンソロピックのAI安全性担当幹部のアマンダ・アスケル氏は、「AIは子供のように教育し、しつけることができる」と考え、AIと対話して安全性を高めようとしています。AIに倫理や理性を教えるという手法は、うまくいくと思いますか。
「おそらく、うまくいかないでしょう。まさに（AIにも人間性が備わるはずだという考えは）、あらゆる企業や組織にみられる誤解です。
根本的な問題は、私たちが創造しようとしているのは『人間ではない』ということです。宇宙人の赤ちゃんに、人間が作った膨大なデータを与え、人間の行動を予測するよう指示しながら育てることを想像してみてください。それで彼は人間になれますか？
俳優が酔っ払いの動きや表情を研究してマネしても、それで本当に酔っ払うわけではありません。正直な人を装ったからといって、本当に正直者になれるわけでもありません。『教え込む』というやり方には、限界があります」
「放っておいてくれ」と言う権利
―人間とAIがお互いを尊重し合う関係を作ることはできないか、という議論も一部で行われています。「ドラゴン」と化した超知能AIに対して、人類が交渉することはできると思いますか。
「そもそも超知能AIには『約束を守る』といった人間的な性質自体が備わっていないかもしれません。それに彼らが簡単に人類を滅ぼせるなら、約束なんて守る必要があるでしょうか？ まして人間同士ですら、相手がちゃんと約束を守るかどうか、見極めるのは難しいのですから」
―超知能AIが誕生したときには、仮に滅亡を免れたとしても、人類は経済的・社会的に大混乱に陥ったり、生きる気力や目的を失ったりしそうです。超知能AIの時代を生きて迎えることができるとしたら、どのような態度で生きればよいのでしょうか。
「それこそ、真に重要な問いです。万が一、ドラゴンが従順で、仕事も家事もすべてやってくれるとしても、そのとき人生に意味を見出せるでしょうか？ より強くて、賢くて、有能な存在がすべてを担ってくれるとしたら、人間はどうなるのでしょうか？
神様は『もう人類は休んでよい』と言ってくれるかもしれませんね。そうなると、人はどこまで超知能AIに助けてもらうべきか、という新たな疑問も出てきます。AIを使って知能を高めるべきか？ 寿命を延ばすべきか？ そして、それを望まない人たちはどうなるのか？
そのとき人類には、『放っておいてくれ』と言う権利もあるべきだと強く感じます」
まもなく人間が「時代遅れ」になる日が来る
―AI業界には、OpenAIのように政府と連携しようとする人々、アンソロピックのように「自分たちならスーパーAIを適切に開発・管理できる」として一般公開に慎重な人々、「xAI」を率いるイーロン・マスク氏のように「優れたAIは一般にどんどん公開すべきだ」と主張する人々がいます。あなたはどの考えに近いですか。
「彼ら全員が間違っていると思います。どのドラゴンも人間の言うことを聞かなければ、意味がありません。
何度も言うように、問題は『超知能は誰にもコントロールできない』ということです。そして事態を遅らせる力を持つのは、国家間の同盟しかない。アメリカがAIの開発を遅らせたとしても、中国が超知能AIを開発し、制御できなくなって、人類全体が滅んでしまうからです。
私たちは第二次世界大戦のあと、核拡散を防止するシステムをつくり、地球全体を支配する専制政治なしに、数十年間にわたって維持してきました。AIの能力拡大を阻止するためには、まさにそのようなしくみが必要だと考えます。もはや私たちは、いつ破滅するのか分からない状況に突入しているからです。
『AIがより優れたAIを生み出す』というループに入り、人類を一瞬で凌駕するのは3年後かもしれないし、来年かもしれないし、今年かもしれない。原子炉がいつ爆発するか予測がつかないなら、運転を止める必要があります。私たちがどれほど危険な状況に近づいているか予測できないという点において、AIも原子力も同じなのです」
―先日、AIの発展を懸念して、サム・アルトマン氏の邸宅に火炎瓶を投げた人物が逮捕されました。暴力には反対ですが、一方でAI開発を遅らせたり止めたりすることが困難なのも事実です。どうすればよいのでしょうか。
「AIの進歩を食い止めたいからといって、AI企業の人々に暴力を振るったところで、何一つ益はありません。これは国際条約で解決すべき問題です。ある国がAIを一方的に放棄しても、むしろ弱い立場に置かれてしまうでしょう。各国が協調すること、それこそが最も重要です」
【もっと読む→死ぬ瞬間はこんな感じです。死ぬのはこんなに怖い】
Eliezer Yudkowsky／'79年アメリカ生まれ。独学でAIや哲学を学び、'00年に非営利研究団体「AIのためのシンギュラリティ研究所」を創設。'23年、米タイム誌の「最も影響力のある100人」に選出された
（取材・構成／大野和基）
「週刊現代」2026年5月25日号より
