結局のところ、ロボットと人間は「友だち」になれるのか？
5回にわたり、ロボットと人間の関係性について連載してきたこの特集。最終回は、ユニークなロボットの開発を手掛ける岡田美智男さんと、ロボットの「道徳」について新しいアイディアを提唱する鄭雄一さんによる対談です。「ロボットと友だちになれるのか？」といういささかざっくりしたテーマに、それぞれの視点から真摯に、現時点での答えのようなものを聞かせてくれました。
1960年生まれ。東北大学大学院工学研究科博士後期課程修了。工学博士。2006年より豊橋技術科学大学情報・知能工学系教授。専門はコミュニケーションの認知科学、社会的ロボティクスなど。著書に「〈弱いロボット〉の思考 わたし・身体・コミュニケーション」(講談社現代新書)ほか。
1964年生まれ。医工学者・道徳哲学者。東京大学大学院医学系研究科修了。ハーバード大学医学部講師、助教授を勤めた後、2007年より東京大学大学院工学系研究科バイオエンジニアリング専攻教授。著書に「東大教授が挑む AIに『善悪の判断』を教える方法」（扶桑社）ほか。
ロボットが、「仲間を増やす」ってどういうこと？
対談場所は都内某スタジオ。この日は交通ダイヤが乱れていて、遠方から来た岡田さんの到着が少し遅れてしまった。
岡田
あ…どうも、こんにちは…。本当にすみません。大変お待たせしてしまいまして…鄭
いえいえ、全然問題ないんですよ。スタッフの皆さんと楽しく雑談してましたから。（このやりとりが、後半で話題になるので覚えておいてほしい）
―岡田さんも鄭さんも、今日はお越しいただいて本当にありがとうございます。さっそくですが、それぞれの研究についてお伺いしたいと思います。岡田さんは「弱いロボット」という、1人ではほとんど何もできないにもかかわらず、不思議と人の関心を惹きつけるロボットを生み出していらっしゃいますね。
おどおどしながらティッシュを渡そうするロボット〈アイ・ボーンズ〉。その頼りない様子に、思わず人が立ち止まってティッシュを受け取る。手のセンサーで、ティッシュを受け取ってくれたと分かるとお辞儀をする。動画はこちらから。
ただ手をつないで一緒に歩くだけの〈マコのて〉。体を支えてくれる機能などはなく、ただ手をつないで一緒に歩くだけだが、高齢者施設などにあるとみんながこの〈マコのて〉と一緒に歩きたがる。
写真提供：ICD-LAB
写真提供：ICD-LAB
岡田
はい。私たちはロボットを作りながら、「ヒューマン・ロボット・インタラクション」といって、「人と人」のやりとりを、「人とロボット」に置き換えてみるという研究をしています。人とロボットが触れ合っていると、いろいろな違和感が出てきますね。それを手掛かりに、コミュニケーションというものがどうやって成立しているのかを調べています。それと並行して、人とロボットの共生みたいなことも研究しているんですが、どっちかが行き詰まったときはもう片方に逃げて…と、逃げ道に使うこともあります（笑）鄭
「弱いロボット」という言葉、非常に良いなあと思いました。西洋の発想だと、ロボットは人間の手下になるものですよね。岡田
役に立つものという印象ですね。鄭
岡田さんの研究室で作るロボットには、利便性を越えた発想があります。すべてをロボットに完璧にやらせようとするのではなく、環境や人間とのインタラクション込みでロボットの行動が成立している。―岡田さんの研究室の方々が作る、「おどおどしながらティッシュを差し出すだけ」「手をつなぐだけ」といったロボットは、極論を言えばあまり「役に立たない」ロボットかもしれません。
岡田
そうですね。1人では何もできないロボットです。でも、私たちの身体も、普段なんでも1人でこなしているように見えて、実はいろいろな支えを借りています。例えば小さな子どもが1人で靴下をはくって、結構大変で、時間がかかります。その様子を観察してみると、背後の壁を上手に使って、バランスを取りながらはいている。いろいろな支えをうまく使っているんですよね。子どもだけではありません。歩くという動作ひとつとっても、人間は床というものの支えがなくては歩けない。同じようにロボットも、1人で全部をやろうとすると難しいんです。鄭
すべてを個で完結させようとすると、すごくエネルギーを使うし、無駄ですよね。岡田
「ゴミを拾う」という動作ひとつとっても、これをロボットにやらせようとすると大変です。カメラを積んで、ゴミを見つけ出すセンサーを搭載して、正確に拾うためのアームを調整して…。でも人に手伝ってもらえば、ゴミを拾うことは簡単なんです。なら人に拾ってもらえるようなロボットを作ればいいと思ったんですよね。そうして生まれたのが、〈ゴミ箱ロボット〉です。
自分ではゴミを拾えない〈ゴミ箱ロボット〉。困ったようにうろうろしていると、子どもたちがそれに気付き、ゴミを拾って入れてくれる。ゴミを入れてもらえると、ゴミ箱ロボットはお辞儀をするようなポーズをとる。写真提供：ICD-LAB
― 一方、鄭さんは、お医者さんでもあるんですよね。
鄭
私は医学と工学の両方を研究しています。臨床医になるつもりでアメリカへ留学している最中、9.11のテロが起きました。アメリカはオープンな社会だと思っていたのですが、すぐにイスラム教徒に対する中傷が始まった。そんな場面を見ていて、人間は状況が変わると、善悪も簡単に変わってしまうんだと感じたんです。それで帰国してから、道徳について考え始めました。私はデジタルヘルスケアの分野でロボット開発にも関わっているんですが、よく「ロボットの倫理はどうなる？」という話題が出るんです。でも、人間がこんなにめちゃくちゃなのに、ロボットの倫理もへったくれもないじゃん、と思って（笑）そこで、人間の倫理はまずどうなっているのか、整理してみようと思ったんです。―鄭さんは、著書（「東大教授が挑む AIに『善悪の判断』を教える方法」）の中で、「道徳次元」というアイディアを提案されています。
鄭さんが考えた、道徳次元の階層構造。外側に行くほど、共感できる相手の範囲が広がっていく。
―そして、ロボット自身が善悪を判断するための道徳を搭載するなら、最も高い「道徳次元4」のエンジンを搭載すべきだと書いています。先ほどの話に戻ると、ロボットの道徳次元が高いということは、低いものに比べて自立している、1人でなんでもできるということなんでしょうか？
鄭
それは違います。まず、人間の道徳次元を1から4に分けたのは、優劣をつけたのではなく、あくまで「共感の範囲」を分類したものなんです。―次元が高いほど良いというわけではない？
鄭
はい。それに、1人の人間の中でも日々変動するものとも思っています。例えば「道徳次元1」というのは、睡眠や食欲など、欲求が自分の中で閉じている状態。共感できる範囲が自分だけにとどまっている状態ですね。これが広がっていくと、家族、友人、同じ国の人…というように、「仲間」と感じる人が増えていく。「道徳次元4」は、その共感できる「仲間」の範囲がとても広く、未知のものも仲間として受け入れる準備があるということです。その分、いろいろなところに目を向けてしまうので、集中して1つのことに取り組むには適していない状態かもしれない。―ロボットに「道徳次元4」を搭載すべきだと考えるのは…
鄭
共感の範囲が狭いということは、時に、差別や争いの原因にもなります。そういうものを助長するようなロボットを作らないためには、ロボット自身が「道徳次元4」を持ち、自ら善悪の判断をする必要があると思っています。―なるほど。つまり、道徳次元が高いというのは、ざっくり言えば仲間が多いということで、自立とは別の話なんですね。「仲間が多い」という意味では、先ほどの〈ゴミ箱ロボット〉は、仲間を増やすのが得意なのではありませんか。
岡田
〈ゴミ箱ロボット〉を公共の場に置いて実験をしたのですが、特になじむのが早いのは子どもですね。最初は遠目に見ているんだけど、だんだん近寄っていって、蹴飛ばしたり、揺すったりしながら、なんとなく自分たちとの共通点を見つける。これなら一緒に遊べるぞ、という。仲間として認識していく過程を見るのは、面白いですね。―失礼ですが、「超ハイテク」とは言えないロボットですよね（笑）そんなロボットが、子どもたちに仲間だと認識されているのは、興味深いです。
「ゴミ箱ロボット」を公共の場所に置いてみたときの様子。
意外とシンプルなところに、社会やコミュニケーションの本質は宿る。
―ところで「共感」という言葉が出ました。共感ということについて、もう少し詳しく伺いたいです。
岡田
僕は、共感には「身体」がとても大事だと思っています。相手の身になり、自分を相手の身体に重ねながら理解する。例えば「人が困ることをしてはいけない」というとき、自分が困った体験をベースにして、相手が困ることは避けよう、と考える。相手の心の痛みが分かるのは、自分の心に痛みを感じることができるということで。鄭
心の理論ですね。その、相手の立場になって考えるときの「相手」がどれくらいの範囲かというのが、道徳次元の範囲と同じです。道徳次元が高いと、たとえ相手がロボットであっても、戸惑いや拒絶を超えて、好奇心や共感を持ちやすい。―ロボットに対して人間が共感するために、開発面ではどんな要素が重要なんでしょう。
岡田
ロボットが僕らと同じような身体を持っていることが、1つあると思います。でもそれは、単にロボットを物理的な人間の形に似せるというのとは少し違っていて。むしろ人間の身体が、環境との間で結んでいる「人らしい様式」を、ロボットで再現しようというふうに考えています。―人らしい様式、ですか。
岡田
例えば、ある置かれた環境に対して、困ったり、試行錯誤したりするというのがその1つですね。ロボットが困ってうろうろしていると、意外とそこに人間らしさを見いだせるんです。―お掃除ロボットが、何かに絡まって止まっているのを見て、「大丈夫？」とか声を掛けてしまうのがそれですね。
岡田
「人らしい」と感じさせる要素の1つは、バイオロジカル・モーションといって、ヨタヨタ、もたもたするような人間的な動きです。世の中の多くのロボットはあまりヨタヨタすることを目指してはいないんですが（笑）、私たちの研究室ではスプリングを使って、歩く時も左右交互に揺らし、なんとなく子どもというか、生き物らしい動きにするんですよね。―スムーズに滑走しているロボットを見るのとは、印象が違います。
岡田
そうですね。他には何かに向かうこと、志向性です。人に近付いていくとか、ゴミに近付いていくとか。そういうのも人らしさを感じる要素ですね。あとはゴミを入れてもらった後、お辞儀したように見えるとか、「社会的随伴性」といって、何らかの反応が返ってくるという感覚はすごく重要です。鄭
なんでもかんでも似せるということではなく、人間らしさのエッセンスを引き出そうという。岡田
私はよく「このロボットならこの部分はいらないでしょ？」とか、研究中の学生たちに口を出します。要素を追加し過ぎると、本質が見えなくなっちゃうから。鄭
最小で起こる人間らしさを見つけていくと。岡田
研究の上では、要素が多くなると、検証目的とは別のところに人らしさを感じて、ミスリードしてしまうということもありますし。あえて、人間の姿からは一番遠い造形からスタートします。目も鼻も口もない、豆腐のようなロボットでも、関わり方によって、人間の方が「こっちが頭で、反対側がお尻か」なんて、勝手に意味付けしていくんですよ。―そういうシンプルな要素から、ロボットと人間の関わりを検証しようというのは、鄭さんの考え方にも通じるところがあるのではないですか。
鄭
僕がロボットの道徳を最初に考えたときにも、いろいろな考え方があって、とても複雑ですべてを考慮することはできなかった。そんなときに、高分子化学を思い出したんです。タンパク質などの高分子は、多くの要素の組み合わせでできていて、近寄って見ていてもよく分からない。ある程度、対象と距離を置かなければ見えてこない性質があって、そこから道徳も、少し引いて見た方がいいんじゃないかと考えたんです。「粗視化」というんですけど。そうして、今の人間の道徳の掟には、「個別の掟」と「共通の掟」がありそうだということに気付いたんです。
鄭
共通の掟は、「仲間に危害を加えてはいけない」「仲間から盗んではいけない」「仲間を騙してはいけない」という、異なる文化の社会であっても、共通して存在する掟ですね。一方で、個別の掟は、簡単に言えば「空気を読め」ということです。正しい挨拶をしろとか、飲み会には参加しろとか。これは「仲間」の範囲が違えば内容も異なってきます。特に個別の掟について知ることは、世の中の多様性を理解する上で重要です。なのでロボットには、「道徳次元4」を搭載すると同時に、これらの掟についても学んでもらわなくてはいけないですね。岡田
そのような切り取り方は、面白いと感じましたね。ロボットというものに対応させるには、道徳がこうあるべきじゃないか、という。シンプルに整理されていると思いました。鄭
哲学や道徳を専門にされている方からは、もっと複雑でニュアンスがあるんだけどな、と怒られますけど…（笑）岡田
複雑すぎると、ロボットに積まなければならないものも増えますからね。人とロボットの初対面にだって、緊張感はあっていい。
夕食の時間帯での対談だったこともあり、もぐもぐタイムを挟んだ。
―少しずつ、対談の核心に迫ってもいいですか？（笑） ずばり、私たちとロボットは、「友だち」になれるんでしょうか。
鄭
うーん、そうですねえ。私は楽観的です。―例えば子どもたちが、岡田さんの作るロボットと遊んでいるとき、「友だち」に近い感情を持っているようにも思えます。
岡田
でも片想いですよね。〈ゴミ箱ロボット〉は、目の前にある石ころと人間の区別を付けることがなかなかできませんから。鄭
人間は仲間だと思っているけど、ロボットは仲間だと認識していない。不完全な関係といいますか。岡田
ただ、不完全であることが本質的だという場合もあります。手を伸ばして相手にティッシュを差し出すといった場面で、相手が受け取ってくれなければ、ティッシュを差し出したことにならない。そうすると、半分相手に委ねるしかない。言葉だって、思い通りにいかない場合がありますよね。自分が話す言葉なんだけど、繰り出す瞬間にはまだ意味が不完結で、相手側の受け方によって、また内容が変わってくる。最初から不完全であるという捉え方も重要だなと考えています。―そんな不完全さの中で、ロボットが私たちに「心」を返してくれる日は来るんでしょうか。
岡田
ロボット自身が共感能力を持つというのは、今のところはなかなか難しいと思いますよ。自分の身体を相手に重ねながら、相手がなにを考えているのか、それをロボットが探ろうとするのは、かなり大変です。だから、現状では、シンプルなことから、ボトムアップに積み上げていくしかないのではと考えています。行為と知覚っていう、「行動して、反応が戻ってくる」という循環の束が稠密化していけば、そこに「心」のようなものが生まれるかもしれません。ある種の経験の束というか、経験から生じる価値感というか。それは感情でもあるわけですが、そういうシンプルなところから積み上げていきたいと考えているんです。鄭
おっしゃっていることは分かります。でも私は、別のアプローチで、そこをなんとか、より早く実装できないものだろうかとも思うんです。例えば、音声で感情を認識できるような装置を作っている仲間の研究者がいます。音声を聞いただけで、相手の感情がどういう要素になっているのか、ある程度分かる。そういう視点から、擬似的な感情をロボットに搭載する可能性も探れると思います。―「感情エンジン」を搭載できれば、ロボットと人のコミュニケーションは変わるかもしれないということですね。
鄭
いずれできるようになると思いますよ。人間だって言葉をしゃべったりすることが、生まれたときにある程度刷り込まれている。ロボットもそうすればいいんじゃないかと。岡田
そういう意味では、ロボットの感情は、人間が作り込むこともできたりするんですよね。達者に言葉をしゃべっていても、実はそれは技術者によって作り込まれた感情空間の中で動いているだけで、必ずしもロボットの身体がいろいろな環境と関わる中で、感情が「芽生えた」というわけではない。鄭
なるほど。そもそも感情ありきではないところを目指すのならば、道のりは遠いかもしれません。―ボトムアップとトップダウンの開発、それぞれに課題はありそうです。
岡田
でも、何かを成し得たときに、ロボットだって、結構うれしく思っているんじゃないかという気もするんですよ。ゴミを入れてくれたり、ティッシュを受け取ってもらったりする、そのやりとりの中で。―うすーい感情みたいなものでしょうか。
岡田
分節化する前の感情ですね。本当にそうなのかどうか、確かめるのは難しいけれど。鄭
そもそも人間同士だって、相手が何を思っているかどうかなんて、100%は分からないですよね、他人のことは。―確かに、予想するしかないですね。今日はこうして初対面の人たちが集まっていますが、表情をうかがったりして「この人はこんな気持ちだろう」と予想します。
岡田
人と人との出会いの場面はオープニングといって、非常にドキドキするものなんですよ。同じ空間で対面、自己紹介して、次の相手の反応を待ちながら、どんな言葉を返すべきか、いろいろ探りながら進めていく。…実は今日、皆さんと初対面にもかかわらず遅刻したので、お怒りなのではないか、開始後しばらくはドキドキしていたんですけど（笑）―そんなこと全くありませんよ（笑）
岡田
その笑い声で、「本当に怒ってないんだ」と分かって、ホッとするんですね。それはロボットと人との出会いに関しても同じじゃないかと。だから、人間とロボットの初対面だって、本当はドキドキ、モジモジしていいと思うんです。それが初対面からいきなり「ハロー！ 元気？」、「今日はどんな調子？」とか話し掛けられる。鄭
言われてみればおかしいですね（笑）実は、私は今、人間の健康状態を日々チェックして、3年先までの健康を予測して教えてくれるプログラムというものを開発しているんですが…岡田
3年先が分かるんですか？ちょっと怖いなあ（笑）鄭
結構な精度で分かるんですよ（笑）そういう結果も、機械的に伝えられるんじゃなくて、ロボットがモジモジしながら話してくれたほうが、人間も受け入れやすいかもしれない。―「あのう…もう少し、お酒を控えたほうがいいと思うんですけど…」とか（笑）
岡田さんの研究室で作ったロボット〈トーキング・アリー〉は、「あのね。きょうね、が、がっこうでね…」というように、言いよどみながら話す。写真提供：ICD-LAB
岡田
距離感だって、最初から近すぎると「なんだ、こいつは?」ってなるでしょう。お互いに距離を調整し合って「この辺がお互いに良い距離感だな」と分かり合うことは、それだけで意志の疎通になりますから。目の前で鄭さんがリラックスしていれば、ああいい感じだなって思うんですよね。結局、コミュニケーションって、身体と身体が一緒にその場にいた時に、もうなんとなく存在するものだと僕は考えているんです。言葉はあとからのっけている感じで。鄭
確かに一番親密なのは、同じ空間で、一緒にいることですね。ただ私は、言葉もやはり相当重要だとは思っているんですけどね（笑）過去や未来のこと、それからここにはいない人のことも伝えられる。言語だけが本当の意味で時空を超えて情報を伝達できる手段だと思うんです。本なんて最たるもので、時間や空間を越えて意志を伝えることができるんですから。岡田
おっしゃるとおり情報を乗せるには言葉が適しています。その言葉も、文字を読むのと、この場で同じことをボソボソとしゃべるのでは受け取り方が異なってくる。―そういう機微を感じられるかどうかに、ロボットと人間の境目があるんでしょうか。
鄭
ロボットだから、人間だからと厳密に分けることに、実はあまり意味がないんじゃないかと思います。ロボットのセンサーが感知する情報は、われわれが人の顔を見たり、声を聞いて、相手の状態を判断するのと根本的には一緒ですから。岡田
子どもは、特にその境目を気にしないですね。ゴミ箱ロボットに対してもそうですが、目玉が付いた〈む〜〉というロボットがあって、「むっ、む〜」という言葉しか話さないものもいるのですが、子どもは「どこで生まれたの？」とか「お母さんはどこにいるの？」とかたくさん聞きますから。
「む〜」「むっ、む〜」「む〜む〜」といった言葉しか話さないロボット、〈む〜〉。写真提供：ICD-LAB
―そうなると、人間とロボットの違いって、なんでしょう。
鄭
昔からの定義でいえば、例えば人間には免疫があり、代謝して、自己修復する…とか。でも今後ロボットだって自己修復できちゃう可能性もあって。そんなとき、ロボットも人間も変わらないんじゃないかと感じるんです。医療の世界でいえば、人間なのか、人工物なのかを問うことは、もうナンセンスな話。人工臓器を入れたら、その人はロボットなのか？そうではないのか？現代に至っては、その境がより曖昧になっていると思っています。岡田
それはそのとおりだと思いますね。ロボットと人間の心が通じた日に、起こること。
―共感の話から、ロボットと人間の境目の話まで…。たくさんお話を聞かせていただくことができました。最後になりますが、どういう状態まで進んだら、「ロボットは仲間であり、心が通じている」と人間ははっきりと思えるんでしょうか。お考えをお聞かせいただけますか。
鄭
僕は挨拶がキーになると思っています。挨拶は、社会によってルールが異なる「個別の掟」ですね。あれは簡便に相手が仲間なのか否かを識別する、一種の儀式なんです。ある文化の中では、やり方にさえ従えば、簡単に仲間に入れてもらえる。逆に心がこもっていても、形式が違えば通じない。挨拶は、あなたに危害を加えるつもりはないよ、というサインなんですね。このサインをロボットがうまく操れるようになったとき、ロボットが仲間だと感じられると思います。―岡田さんはいかがでしょうか。
岡田
そうですね。新幹線で隣の席の人と、肘掛けの領地を取り合う場面がありますよね。誰でも体験したことがある話だと思いますが、なかなか気まずい空気で。肘がぶつかったら、さっと引っ込めたり。「もうちょっといけるかな？」と押してみたり。それが良い位置に収まったときに、「通じたな」と感じる。そうやっていい位置におさまったときに隣に座っているのが、実はアンドロイドロボットだったとしても、そのときは「通じた」と言っていいんじゃないかと。「仲間である、通じあえる」というのは、ある対象に対して一緒に志向を向けあい、調整しあえる関係なんじゃないかと思っています。―それぞれ、社会と身体という側面からまとめていただいて、興味深いです。今日はありがとうございました。
撮影／森山祐子
文／渡辺克己
デザイン／上條慶
文／渡辺克己
デザイン／上條慶
