未来の地球は、マシンによって管理された“国立公園”になる？：ベン・ゲーツェル×石井敦 対談（後編）
＜中編から続く＞
ベン・ゲーツェル×石井敦 対談（全3回）（前編）汎用の分散型AIが、30年後の「世界」をつくる（中編）人間はやがて「分散型AIネットワーク」の一部となる（後編）未来の地球は、マシンによって管理された“国立公園”になる？AIの発展で、地球は“国立公園”のようになる？
石井敦（以下、A）：次にシンギュラリティについての意見を聞かせてください。レイ・カーツワイルが唱えたシンギュラリティについて、どのように考えていますか？
ベン・ゲーツェル（以下、B）：レイ・カーツワイルは2029年に人間レヴェルのAIが完成し、シンギュラリティが2045年に来ると予想しました。しかしわたしには、なぜこのふたつの間に16年もかかるかわからないんです。実際はもっと短いはずだと思うんですよね。
人間と同じくらい賢いAIが完成すれば、AIが自らコンピューターサイエンスやプログラミング、ハードウェア設計などを学ぶようになります。さらにAIが自らのコピーを何度でも作成できることを考えると、自らのアルゴリズムやハードウェアまで改良するようになるでしょう。そうなれば、急速に人間を超えるAIが完成するはずです。
これから何年かかるかわかりませんが、それは5年から30年くらいの話であって、100年後や500年後の話ではないでしょう。カーツワイルが「人間レヴェルのAI」の完成として予想した2029年は、いい線だと思います。
ベン・ゲーツェル | BEN GOERTZEL
AI研究者。1966年生まれ。ブロックチェーンを活用したAIプラットフォーム「SingularityNET」のチーフ・サイエンティスト兼最高経営責任者（CEO）として、AI間でさまざまな取引を実行するための非中央集権型マーケットプレイスの構築を目指している。Aidyia HoldingsとHanson Roboticsのチーフ・サイエンティスト。「Artificial General Intelligence Society」会長なども務めるほか、AIロボット「ソフィア」の生みの親でもある。AGI（汎用人工知能）の開発に取り組んでおり、AIの世界的な権威として知られている。
A：人間レヴェルのAIが実現したら、われわれの生活はどうなるでしょう？
B：自分のコピーをいくつもつくれるようになるわけですよね。ということは、自分のコピーをマインドアップロードして、コンピューターネットワークのなかで生活させることもできます。このコピーに自らを書き換えて改良を加えさせれば、それは急速に賢くなっていくわけです。さらにまた別のコピーをつくって、そちらには古きよき人間のあり方を踏襲してもらう。ただし、病気や死といった問題は削除し、記憶容量を少し増やすといった変更を加えたうえでですが。
面白いのは、マインドアップロードしたほうのコピーは、たった5秒であなたよりはるかに賢いスーパーヒューマンヴァージョンになって帰ってくるということなんです。それはあなたが理解もできない方法で物事に対処していくでしょう。一方、古きよき人間ヴァージョンのコピーは、たった5秒で不老不死の神のような存在になります。そんななか、あなたは普通の人間としての人生を歩む。
この状態を例えるとすれば、国立公園のリスでしょう。 国立公園の外にいる人間は、園内で暮らすリスや鳥の日常にはまったく関与しません。リスの食料やすみか、繁殖相手について人間は指図しませんよね（笑）。でも、リスが国立公園の外に出たら、クルマにひかれてしまうかもしれない。リスの間に病気がはやりだしたら、人間が介入して何らかの策を講ずるかもしれない。それでもリスは好きなように生きてください、というのが基本的なスタンスです。
コピーのいる世界において、地球全体が国立公園になり、人間はリスになります。超人的なAIコピーたちが提供する技術を利用する一方で、恋愛や日常生活に対してAIは関与しません。「子どもは学校に行くべきか」「何曜日に何ゴミの日にするか」といった日常生活にかかわる決定を下すのはAIではなく、人間の政府関係者です。でも、もしある人間がほかの人間を殺し始めたら、AIが介入してくるかもしれません。
将来は人間として残りたい人は、よりよい生活を望めるでしょう。生計を立てるために働く必要もなければ、病気もない。社会生活や芸術活動、精神活動を思いのまま楽しめる世界です。でも、大量殺人など何か悪いことをしようとすれば、自分よりもパワフルなAIがそれを阻止することに気づく。「地球がマシンによって管理される国立公園になる」というアイデアは、わたしの楽観的観測なのですが。
石井 敦 | ATSUSHI ISHII
クーガー最高経営責任者（CEO）。電気通信大学客員研究員、ブロックチェーン技術コミュニティ「Blockchain EXE」代表。IBMを経て、楽天やインフォシークの大規模検索エンジン開発、日米韓を横断したオンラインゲーム開発プロジェクトの統括、Amazon Robotics Challenge参加チームへの技術支援や共同開発、ホンダへのAIラーニングシミュレーター提供、「NEDO次世代AIプロジェクト」でのクラウドロボティクス開発統括などを務める。現在は「AI×AR×ブロックチェーン」によるテクノロジー「Connectome」の開発を進めている。
A：わたしのイメージと近いですね。
B：もし、ただの人間を超越した存在になりたいなら、マインドアップロードをしてAI側のいる地球外の世界に行けばいい。それもまた、人間としての未来の生活と同じくらいよいものでしょう。まったくアップグレードしたくない人間もいるかもしれません。アーミッシュの人々が電気をあまり使いたがらなかったり、抗生物質を拒否する人がいたりするように、従来の姿を維持したい人もいますよね。
今後も2019年のような生活を維持したいと考えることは、いまもアマゾン流域に新石器時代の生活を維持している部族がいるのと同様にクールなことです。ただ、こうした人々がわたしたちの社会に加わりたいのなら、それを止めることもしたくない。もしマインドアップロードして超人的なAIマインドを手に入れたい人がいるのなら、それも阻止したくありません。
ここでの難関は、そのようなユートピアを築くための技術開発ではなく、ディストピア的で偏狭な考えをもった人々に主導権を握らせないことだと思います。
AIと人間の共存で必要なのは「ホスピタリティ」
A：わたしも、基本的に人間は地球に住み続けると思います。そして、工場やロボットは宇宙に設置されて稼働するでしょう。地球は家や学校、娯楽施設などが中心になる。テクノロジーが進化することにより、人間の生活はより自然になっていくでしょうね。
B：その通りだと思います。では、そんなヴィジョンに肯定的な日本人はどのくらいいると思いますか？
A：日本人はロボットやそれに関連するアニメなどに慣れています。なので、一般には日本人はロボットやAIに対して前向きな考えをもっているのではないでしょうか。「ドラえもん」などがよい例です。対して米国や欧州は映画などでもAIと敵対する考えをもっていますよね。
B：AIが人間の仕事を奪い、殺人を始めるというような。
A：そこにはホスピタリティやそれに関連するヘルスケアなど、日本の「おもてなし」の文化が関連しているのかもしれません。われわれがAIと共存していくなかで、人間らしいホスピタリティが実現されれば、人々は受け入れる気がします。
B：AIは日本社会にうまく適応できるということですね。わたしは西欧社会でAIに対する姿勢に大きな変化が起きたのを目の当たりにしました。わたしが1980年にAI研究を始めたころは、誰もこの技術が実現可能なものだとは信じなかったのです。しかも、アイデア自体を怖がっていた。現在では多くの人がこれを実現可能なものと考え、心配するようになりました。それと同時に、このアイデアを好意的に捉える人も増えています。
A：ビル・ゲイツやスティーヴン・ホーキング、イーロン・マスクもAIの脅威を訴えていますね。AIの進化に警鐘を鳴らしているかと思いますが、わたしはいまの機械学習はそういうレヴェルではないと思っています。
B：でも、孫正義は非常に前向きな姿勢をもっていますよね。彼は今後30年以内に人間をはるかに超えるAIが誕生すると予測していました。
A：その時期になると、人々はAIもロボットもコントロール不能になりますよね。
B：人間は技術の発展をコントロールできませんし、われわれのもとに超人的なAIはありません。では誰が技術の発展をコントロールするのか？ 誰もしないのです。誰も理解できない方法で技術は発展し、いまよりさらにコントロール不能になるのです。コントロールなんて、広い目で見れば錯覚なんですよね。それがもっと明確に見えてくるでしょう。
A：ありがとうございました。
ベン・ゲーツェル×石井敦 対談（全3回）（前編）汎用の分散型AIが、30年後の「世界」をつくる（中編）人間はやがて「分散型AIネットワーク」の一部となる（後編）未来の地球は、マシンによって管理された“国立公園”になる？
