コンピューターによる人工知能(AI)の研究が進むにつれ、次第に「人格」とは何であるかという考え方が人々に求められるようになってきます。人間が持っている「自我」がコンピューターの中にも生じるようになった時、はたしてそれらには「権利」が与えられるべきなのか、そんなことを問うムービーが、さまざまな問題を解説する「Kurzgesagt - In a Nutshell」によって公開されています。

Do Robots Deserve Rights? What if Machines Become Conscious? - YouTube

あなたが食べたいと思っているトーストの種類をトースターが予想する。そんな未来がやって来るかもしれません。



そのトースターは自分で、新しくて刺激的なトーストを求めてインターネットで探します。



また、あなたに今日一日の出来事について尋ねたり、トースト技術の新しい進展について話したいと思うようになるかもしれません。



それではいったい、どのレベルになればそのトースターは「人間と同じ」ということになるのでしょうか?そのトースターに「感情があるかもしれない」と感じ始めるのは、どんなタイミングでしょうか?また、その場合、電源を切ってしまうことはトースターを「殺す」ということになるのでしょうか?



人工知能はすでに私たちの身の回りに存在しています。人工知能は商店が十分な商品を在庫できるよう手配し、個人に適したネット広告を提供します。



ですが、作られた人格と本物の人格の境界が曖昧になった場合の対処が必要になることも十分に考えられます。



現時点で「権利」を与えるに値する機械はあるのか?おそらく、今のところはないでしょう。しかし仮にそれが存在したとすれば、私たちにはまだ準備が足りていません。



人間または動物に権利があるという主張の多くは、意識の有無を前提としています。しかし残念ながら、意識とは何かを知る人はどこにもいません。



正確な定義が何であれ、私たちは意識について直感的に知っています。意識を持つという経験があるからです。私たちは自分自身とその周りについてを認識しているし、意識がない状態がどんな感じかも知っています。



一部の神経科学者は、高度なシステムであれば「意識」を作り出すことができると考えています。



その考えに基づくとすれば、もしもあなたのトースターのハードウェアが十分強力だったなら、自我を持つかもしれません。



そのとき、そのトースターに権利を与える必要があるのでしょうか?



意識を持つものに権利は与えられます。なぜなら意識を持つものは、苦しむ能力を持っているからです。



ロボットは苦しむことはないし、我々がそうプログラムしない限りはずっとそうでしょう。



人権は、私たちのからだのプログラムに深く関係しています。たとえば私たちは痛みを嫌います。それは、私たちが熱い火に触れないように、また捕食者から逃げるように脳が私たちを生きながらえさせるよう進化したからです。



だから私たちは苦痛をもたらすものから自分を守るために、「権利」を掲げるようになったのです。



しかし、そもそも移動することが出来ないトースターが、檻に閉じ込められていることが嫌だと感じるでしょうか?



死への恐怖が無いとすれば、分解されることを気にするでしょうか?



自尊心が無いとすれば、侮辱を受けても気にするでしょうか?



一方で、痛みや感情を感じるようにロボットをプログラムした場合はどうなるでしょう?不正よりも正義を好むように、苦痛よりも喜びを好むよう、そしてそれを意識するようにプログラムしたら?これは彼らを十分に人間たらしめるでしょうか?



多くの技術者は、人工知能が新しい人工知能について学習し、自身よりも優秀な人工知能を創造できるようになったとき、技術の爆発が起こるだろうと信じています。



痛みを感じる能力はほぼすべての生物にとって必要だと進化生物学が明らかにしたことと同じように、痛みをプログラムする必要性を人工知能が見出したとしたら?ロボットは権利をもつに値するでしょうか?



ですが今は、極めて賢いロボットが私たちにもたらすリスクについてはあまり心配せず、むしろ、私たちが彼らにもたらすリスクを心配すべきなのかもしれません。



人類のアイデンティティは、私たちは特別にユニークなものあり、自然界を統べる権利をもつ例外であるという考えに基づいています。



歴史的に人類は、他の存在が人類同様に苦痛を感じられることを否定してきました。



科学革命の真っ只中の時期に、近代哲学の父と呼ばれるルネ・デカルトは、動物が単なる機械人形(または「ロボット」)であると主張しました。ウサギを傷つけることの非道徳性はぬいぐるみをパンチすることと同レベルというわけです。



そして人類に対する最大級の罪の多くについて、加害者は「被害者は文明化された人類ではなく動物に近い」として、他人の権利を奪うことを正当化してきました。



さらに問題なのは、我々がロボットの権利を否定することで、経済的にメリットがあることです。



意識を持つ人工知能に我々への奉仕を強制できるとしたら、利益を生み出す可能性は大きいでしょう。



それは我々が過去にもやったことでもあります。人々に労働を強制するために暴力が用いられました。



そして、「神は金が必要だとおっしゃっている」などということで、強制を正当化してきました。



奴隷主たちは奴隷制度は奴隷にも利益があると主張しました。彼らは屋根の下に住むことができ、キリスト教を教えてもらえる、ということを。



女性の投票権に反対していた男性たちは、「女性は本当は難しい判断を男性に任せたいのだろう」と主張しました。



農家は、動物を若いうちに殺して食料にしますが、「餌が与えられ、面倒を見ている」ということで正当化できると主張しています。



ロボットが自我を持った場合、「彼らは権利を持たないままでいるべきだ」という主張が起こることは間違いないはず。



人工知能は、哲学の境界に対して重大な問題を提起しています。感覚を持つロボットに自我はあるのか、また権利を持つに値するのか。また、「私たちは何をもって人間なのか?」「私たちは何を根拠に権利を有しているのか?」という根源的な問いを投げかけてきます。私たちがどのように考えるかにかかわらず、この質問を近い将来に解決する必要があるかもしれません。



ロボットが権利を要求してくることで、私たちは何に気づかされるのでしょうか?



この問題に対する詳しい解説は、冒頭のIn A NutshellのYouTubeムービーで詳しく解説されています。字幕は日本語に変更することも可能です。