将来、人類が人工知能に乗っ取られる日が来るかもしれない。

世界と繋がり、自ら考え増殖することのできる人工知能。そう、人類はそれを作りかけているのだ。

人類には、スカイネットを想像させるような未来が徐々に見え始めている。

スカイネットとは、映画「ターミネーター」に登場する、人類を滅亡の危機に追い込んだ人工知能のことである。これは創造者の支配下を離れいずれは創造者自身を滅ぼしてしまう、いわゆる「フランケンシュタイン」の象徴だ。現在では「シンギュラリティ」が、このフランケンシュタイン論と合わせて議論されることが多いようだ。「シンギュラリティ」とは、人工知能が人類の知能を上回るという技術的特異点のことだが、人類にはその先に待ち構えるものが全く分からない。飛躍的な進化により高い知能と自我を持った人工知能が、自らを自在にコントロールし、人類を絶滅に追い込むかもしれないのだ。（もちろん人類が先に、「トランスヒューマニズム＝知識人が唱えている、技術の発展によって人類そのものが変化・進化するという説」を辿れば別だが。ただ、この議論はまた別の機会にしよう。）

勿論、シンギュラリティ自体が起こらない可能性も多いに考えられる。そもそも完全な人工知能を作ることは非常に困難で、これまで何度もその完成が予測されてきたが、未だに実現できていないのだから。それに、人工知能の自我が未熟なうちに、人類はそれを制御するかもしれない。逆に自我を持った人工知能は人類にとって親切な存在かもしれないし、彼らが人類に何ら興味を抱かない可能性もある。つまり、未来を予測することは相当困難なのだ。

いずれにしても、想定される最悪のシナリオは、皮肉なことに人類自身が無我夢中になって取り組んでいる技術の発展によってもたらされるのだ。

人類の終わりを「作る」

いくつか考えてみたい。今プログラムは人間が丁寧に一行ずつ書いているが、もし人工知能を搭載したコンピューターが、自らプログラミングすることができたらどうなるだろう。あるいは人工知能を搭載したロボットが自分で考える能力を持ち、常に周囲の環境から新しい事を学べるようになったとしたら。世界中のあらゆる情報を吸収できる彼らは、その情報で何をするだろうか。ロボットがほ乳類と同じように自ら自在に数を増やせるようになったら何が起こるだろうか。

科学者達は既に、人間の脳と同じような仕組みで動作し、今までなかった学習能力を持つコンピュータ・チップの開発に取りかかっている。実際私は、このチップを搭載したロボットが科学者に立ち上がるよう命令され、何度もうごめいたり転びながらも自力で立ち上がる様子を見せてもらったことがある。

人類は将来、今の状態が破滅への第一歩だったと振り返る事になるかもしれない。クアルコム・テクノロジーズ社 の副社長であるマット・グロブ氏は、自我が芽生えだしたロボットの電源をただ切ってしまうことに対する倫理的な疑問を感じている。

コンピューターはすべての動作において具体的な指示を必要とする。対照的に人間の脳は外部からの刺激を判断し、過去の記憶や本能、理論、感情等を組み合わせて自分の体に指示を出すのだ。科学者達はまだこの仕組みを完全に解明できていないが、少なくともどこかにコンピューターのような基本プログラムがあるわけではないことは、知っている。

コンピューターの脳はそうはいかない。それらは人が書いたプログラムによって動作する。特定のコードによって具体的な動作を指示しない限り何もできないのだ。

ただ問題はここからだ。もしコンピューター自身がプログラムを書き直す事ができたらどうなるのか。例えば、誰かが世界中のあらゆるプログラムコードが格納されたデータベースを作成したとしよう。コンピューターがそれらを組み合わせて好き勝手な機能を実行できるようになったとしたら？

実際に今、イスラエルのベンチャー企業であるSparkBeyond社がまさしくこのコンセプトの実現を目指している。創業者であるサジ・ダヴィダーヴィチュ氏は、GitHubというホスティングサービス内にあるすべてのコードを発掘して、そこから新しいAPI（アプリケーション・プログラミング・インターフェース）を作り出すプログラムエンジンを開発している。つまり開発者が自分の望む機能を定義するだけで、SparkBeyond社が自動的にその機能を備えたAPIを作り出してくれるのだ。

ここまでの話を振り返って考えてみて欲しい。人間の脳に似た処理装置を持ったコンピューターは、周囲の環境から刺激を受け新しい行動パターンを生み出すことができる。その上自らのプログラムを何度でも書き直すことができれば、いずれ人の指示や規制に従う必要のない自我を持つと考えてもおかしくはないだろう。

脳と自己増殖

次にインターネットだ。インターネットは人類最大の発明とも言える知の資源だ。クラウド上に記録を保管し、同じくクラウド上の処理装置によって（一種の）論理的思考までをも有する、世界中に分散した「頭脳」であり、超高速光ファイバーを媒介として、世界中を包み込んでいるのだ。

もしコンピューターが自我を持ち始め、自分のプログラムを書き直せるようになったらこの「脳」を乗っ取ることだってできるだろう。最悪インターネットそのものがある日「目覚め」てしまい、全てをコントロールしだすかもしれない。

いずれにしても自我を持ったコンピューターは、より多くの仲間を作り出す方法を見つけなければならないだろう。ただこれも人類が準備し、提供することとなるかもしれない。それが「モノのインターネット」と今話題の３Dプリントではないだろうか。

「モノのインターネット」とは大小関わらずあらゆるデバイスが半導体を持ち、互いにネットワークで繋がっている。データを共有したり、特定の状況化では操作し合ったりできる。全てがオンラインで繋がり、監視されているのだ。我々のライフラインや自宅、家庭、オフィスにある機器、乗り物、金融システム、政府に至るまで、考えられるもの全てだ。つまり膨大な数のセンサーが世界中を測定・監視し、データベースにそれを蓄積し続けるのだ。

３Dプリントは、物を「足し算」で造形する新しい手法だ。一般的には、プリンターがトナーで線を重ねて印刷するように、素材を一つずつ足して行き、簡単な物から住宅・機械部品のような複雑なものまで作れてしまう。

現在、インターネットの工業化が注目されている。これは機械がネットワークを経由し、センサーやソフトウェアと連携して動作する仕組みを言う。実際にはビッグデータや３Dプリンターを組み合わせて、信じられないほど効率的な工場が誕生するのだ。すでにゼネラル・エレクトリック社はニューヨーク州でこのような工場を展開しており、１万を超えるセンサーが空気圧から室温、エネルギー消費までも監視している。工場内は全てWi-Fiで繋がっており、従業員はiPadを使って製造工程を点検する。現在同工場では、電池の製造が行われているが、今後はより複雑な製品の製造も目指すようだ。

さて、ここまで出てきた全ての要素を振り返ってみよう。自我を持ち自分で考える事のできるコンピューター。すべてがインターネットで繋がっている世の中。それを操作する「脳」や監視するセンサー、人間が指示しなくともモノが作れてしまう製造プロセス。これらを組み合わせれば、将来、コンピューターが人類を乗っ取ることが容易に想像できてしまう。薄気味悪いって？しかし本当に怖いのは、これらのテクノロジーが既に何らかの形で存在しているという事だ。

19世紀のイギリスで起きたラッダイト運動（産業革命で失業の危機を抱いた労働者達が起こした機械破壊運動）を思い出す。製造の機械化に反対した彼らは、将来何が起こるか知っていたのかもしれない。

Dan Rowinski
[原文]