ロボットと生きる未来の物語 日本科学未来館、「AIの遺電子」トークショーを開催
」を開催した。日本科学未来館は2023年11月22日(水)に、新常設展示「ナナイロクエスト −ロボットと生きる未来のものがたり」を公開する予定だ。Cinema未来館『AIの遺電子』は、それに先立つ関連イベントとして実施された。
日本科学未来館は11月に常設展示をリニューアル予定
イベントでは、まず「AIの遺電子」のTVアニメ第1話が上映されたあと、スピーカー３人が登壇。「AIの遺電子」原作者で漫画家の山田胡瓜氏、新展示「ナナイロクエスト」の監修者である京都大学総合博物館准教授の塩瀬隆之氏、同じく監修者の一人で大阪大学大学院医学系研究科招聘教員の安藤健氏の3名だ。
ファシリテーターは日本科学未来館 科学コミュニケーターの岩澤大地氏が務め、AIやロボットが暮らしのなかに溶け込んだ未来の日常の様子や、将来の人々が感じるかもしれない葛藤をテーマに、漫画家と研究者のそれぞれの立場から意見交換を行った。
会場の様子
●■AIが高度に発達した社会を描く漫画「AI（アイ）の遺電子」
＊動画：
「AI（アイ）の遺電子」は「週刊少年チャンピオン」（秋田書店）にて連載された漫画。AIが高度に発展した22世紀後半の社会で、人権を持った「ヒューマノイド」と人間が暮らす未来を描いたSF作品だ。「ヒューマノイド」を治す医者・須堂光が主人公として、オムニバス形式でヒトとAIの共存する社会を描く。須堂には「モッガディート」という裏の顔もあり、そちらでは通常の医師が受けない裏仕事も受けている。人間とほぼ同じだが、人間とは異なる存在である「ヒューマノイド」を合わせ鏡として、簡単な答えの存在しない問いを投げかけ、人間や、人間社会の関係性の本質に迫るストーリーとなっている。
漫画は連載の舞台を「別冊少年チャンピオン」へと移し、続編の『AIの遺電子 RED QUEEN』、そして『AIの遺電子 Blue Age』と続いている。原作エピソードを再構成したアニメは、2023年7月から9月まで毎日放送・TBS『アニメイズム』B1枠ほかで放送された。現在も配信サイトで見ることができる。興味がある方は単行本と合わせてご覧いただきたい。
「AI（アイ）の遺電子」ストーリー
さてアニメ第一話の上映後、山田胡瓜氏はアニメならではの演技や演奏シーンに合わせた作画などを称賛。特に１話での母親の演技や、5話でのピアノを弾く男の子の演奏シーンは、とても印象に残ったと述べた。
漫画家・山田胡瓜氏。「AIの遺電子」原作者
『問いのデザイン 創造的対話のファシリテーション』（学芸出版社）という著書のある塩瀬氏は、以前から「問い」に注目していたと述べ、「山田さんの作品ではヒューマノイドは悩めるという点が面白かった」と語った。
京都大学総合博物館 准教授 塩瀬隆之氏
ふだんの業務ではロボットの開発と社会実装を進めている安藤氏は、7話の謝罪のシーンについて触れた。「あえて身体を持った人間が謝ることに価値がある」という点が面白いと感じたという。「ロボットをやってると『それ、ボディいるの？』という議論が出る。こういう場面を見て 改めて考えさせられた」とコメントした。
大阪大学大学院医学系研究科招聘教員の安藤健氏。パナソニック ロボティクス推進室室長でもある
●■人格や記憶のバックアップ
ファシリテーションを行った日本科学未来館 科学コミュニケーター 岩澤大地氏
そして第一話のテーマである「人格や記憶のバックアップ」という問題について、それぞれがコメントした。「AIの遺電子」の世界では、「ヒューマノイド」の記憶バックアップは基本的には違法ということになっている。作中で描かれるのだが、バックアップによって様々な問題が起こってしまう可能性があるからだ。
そもそも自分の記憶や心のコピーが作れるようになったときにときに、それを作っていいのか。作ったとして、もともとの人はどうなるのか。バックアップがあるからいなくていいのか。山田氏は「僕は思えないんじゃないかと思っている。自分自身が消えてしまう深刻さは何も変わらない」と述べた。
アニメ「AIの遺電子」第一話では、やむをえない理由でバックアップをとったヒューマノイドが、バックアップを適用すると１週間分の記憶がなくなることに悩む。いっぽう「この話を書いてから『１週間分くらい無くなってもいいじゃないか』という人も結構いて、面白いテーマだと思っている」という。
塩瀬氏は以前からこのようなテーマに興味を持っていて、それがそのまま描かれていることに驚いたそうだ。また安藤氏は、仮にもっと長かったら、あるいは１秒くらいだったらどうなのかと思ったと語った。「バックアップ」とオリジナルは同じと言えるのか、自分のアイデンティティはどこにあるのかというテーマだ。
以前から考えていたテーマがアニメ化で描かれていることに驚いたと語る塩瀬隆之氏
●■あなたがいて欲しいと思うロボットは？
あなたがいて欲しいと思うロボットは？
「心のありか」や、「人間とロボット」の繋がりが「AIの遺電子」のテーマの一部だ。以上を踏まえて、トークテーマ１、ディスカッションの内容は「あなたが一番いて欲しいと思うロボットは？」へ移った。聴衆にはペットロボット、友達ロボット、恋人ロボット、家族ロボット、そして「ない」という選択肢が提示された。結果は、ペットロボット、ない、友達ロボット、となった。
山田氏が選んだのは「友達ロボット」。だが「本当に欲しいのはビジネスパートナー」とコメントして会場の笑いを誘った。塩瀬氏はペットロボットを選択。昔のAIBOを所有しているそうだ。
安藤氏は「ない」を選択。「そんなに深い理由はないが、これは別に『ロボット』じゃなくていいのではないか。『ロボット』とつく必要がない」とコメントした。つまりペットロボットではなくペット、友達ロボットではなく友達でいいじゃないかというわけだ。
つまり上記の選択肢は関係性そのものであり、関係性自体に価値があるロボットが羅列されている。山田氏は「僕の漫画では関係性のロボットが出てくるが、現在の実際のロボットはツール。まず発達するのはツール。実際のロボットを開発している方が『ない』という選択肢を選ぶのは真っ当」とコメントした。
安藤氏は「もう一つ補足すると、『ロボット』を取るだけではなく、その前に『支援』をつけるのはある。たとえば家族の関係をサポートしてくれる『家族支援ロボット』とか。関係性のなかを取り持つロボットならあるのでは」と追加した。
山田氏もその気持ちで「友達ロボット」を選んだという。「友達ロボットがコミュニティの輪の中にいると、物事が良い方向に進むといいなと思っている」と語った。
塩瀬氏は以前ペットロボットを修理するときの話を振り返り、メーカーは単なるメモリースティック交換や部品の修理で対応するが、それは「もやもやが増える」と述べた。ファシリテーターの岩澤氏は、ペットロボットを選んだ人が多かった理由として、「ペット」くらいであればリアクションが限定的でも期待しすぎ、程よい距離感が保てるからではないかと述べた。塩瀬氏は投票結果に付記された理由を見て「いてほしい理由と、いてほしくない理由が表裏一体で同じ」と指摘した。
●■人間並の知性は「結果的にできてしまう」かもしれない
「AIの遺電子」の基本世界設定を解説する山田胡瓜氏
「AIの遺電子」の世界では、AIを「超AI」、人間同等の「ヒューマノイド」、道具として使われ機能制限を受けている「産業AI」の３つに分けて、それぞれで扱い方が異なるという設定になっている。ちなみにヒューマノイドの外観は確率で決まる。ヒューマノイドは人間のコネクトーム（神経の接続）を忠実に再現しているが、人間とは違うかもしれない、だが人間がコミュニケーションして「やっぱりロボットだ」と思うことはないくらい、人間と同等の知性を備えているのが「ヒューマノイド」という設定だ。ちなみにアニメでは瞳孔のかたちが横長という描写になっているが、原作は「どっちでもいい。ほぼ一緒だから」というかたちで描かれていたそうだ。
「AIの遺電子」は実はロボットやAIというよりは「人間」の話だ。山田氏は「ある種のトランスヒューマニズム」だと述べた。つまり「人間がバックアップをとったら、外部記憶を持ったらどうなるか。「トランスヒューマニストとしてヒューマノイドを見る」という話になっている。なお人間を機械で増強するサイボーグも存在するが制限されている。「人間との差異を生まないという社会の圧力がある。だから人間よりも賢くも強くもならない。寿命もある」という設定だ。
「そんな人間のようなAIは何のために必要なのか」という質問も、よく受けるそうだ。「逆にいうと、僕たちはそういうものを気がついたら作っちゃってる可能性があるよというのが一つの想像」だと山田氏は語った。現代は工学的にチャレンジしているうちに、結果的に予想以上に何かすごいものができてしまったといったことがあり得る時代だ。
そうこうしているうちに凄いものができ、「さらに、あまり働かせすぎると鬱っぽくなるとか、後で調べるとほぼ我々と同じようなものだから奴隷的に扱うのはどうなのという議論が起こるかもしれない。『必要だ』と思って作ったのではなく『結果的にできちゃって、じゃあヒューマノイドということにする？』ということがあってもおかしくない」と語った。
●■科学的基準だけが全てではない
議論の内容は現在のペットロボットについても及んだ
ファシリテーターの岩澤氏は「ペットロボットは、ずっとそういうところがあるのではないか」と指摘。ペットロボットと一緒にいるオーナーや飼い主には、ロボットだと思って接してる人、中間的な人、ペットあるいは家族なんだと思って接している人、色々な人がいる。「ロボットの扱いはこれからどうあるべきか」については、単純な答えがない。
安藤氏は「セラピーロボットも、ぬいぐるみのようなものとして扱う人もいれば、ロボットとして扱う人もいる。想定してなかったのは『分身』として扱う人もいる。それは望んでいた状態なのか」と問うた。「それで例えば認知症の人が、心が落ち着いた状態になるのはいいかもしれない。でもそれって本当にいいのか」。
このように、社会に実装されてみて人と機械のあいだの関係性が初めてわかる、初めて見えてくる問題もある。岩澤氏は「（どういう感覚であれ）その人が『こういう感覚を抱いている』という事実の否定はできない。グラデーションがあるなかで、ルール作りが必要になる。どういう視点がいると思うか」と投げかけた。
山田氏は「科学的にこれはモノ、これは心がある、知性があるというレイヤーとは別に、人間がそこに『心』を見て大切に思ってしまう現象がある。社会的にこうしたほうがスムーズ、ストレスがないというルールを作る方向もある。厳格に確固たる理由で『こころがある、知性がある』と信じすぎると、返ってマズいことになるかなと僕自身は感じている」と述べた。
●■スポーツ、伝統工芸など、人が行う行為の価値はどこにあるのか
トークテーマ２「伝統工芸、謝罪、料理、教育、スポーツのうち、AIやロボットに任せたくないと思うことはどれ？」
大幅に技術の進んでいる『AIの遺電子』の世界では、様々な分野でAIやロボットが活用されている設定だ。トークテーマ２は「伝統工芸、謝罪、料理、教育、スポーツのうち、AIやロボットに任せたくないと思うことはどれ？」というもの。アニメでも鍛冶屋に弟子入りするロボットや、ヒューマノイドのかわりに謝罪する人間の話などがあった。
山田氏は「謝罪」を選んだものの、「ChatGPTはすぐ謝る」とコメント。謝った上で、向こうの体制に伝わって消化されるということがわかったら人はAIの謝罪も受け入れるのではないかと述べた。塩瀬氏は代わりにやられるのが嫌なものとしてはスポーツを挙げた。ただし、対戦相手としてはありだという。また、もともと大学では熟練技の記録の研究を行っていたという。人が嫌がるかどうかは主観的なもので、自分の都合に寄るのではないかと述べた。
安藤氏は「全部任せるのかどうかにもよる」としつつ「スポーツ」と答えた。「あとはシーン、目的による。例えば料理は人にやってほしい作業かもしれない。めちゃくちゃ忙しいときに自分で作る必要はない。でも、子供が誰かのためにお菓子を作りたいという気持ちは大事にしたい。裏に何があるのか次第」と語った。
本質が変質していないことが重要なのではないかと指摘した山田胡瓜氏
山田氏は東大教授の稲見氏と対談したときのエピソードを紹介。稲見氏は、アスリートの為末大氏から聞いた話として「応援価値」があるかどうかという話をしたという。つまり「人間が応援する価値があると思えばAIだろうが身体拡張だろうがいいんじゃないか」というわけだ。そこに確かに努力があり、応援したいとみんなが思える余地があるなら、AIやロボットがやろうがどんなものでもスポーツとして成り立つし、それがなくなったら何か変質しているのではないかというわけだ。
アンケートの結果、ロボットに任せたくないことに「伝統工芸」を選んだ人は少なかった
いっぽう、「伝統工芸」を選んだ人は低かった。伝統工芸をデータ化して残す仕事をしていた塩瀬氏は「伝統工芸を残したいと思っているのは周りの人で、『自分の子供には継がせたくない』という人もいる。どうやってデータをみんなが使うかのほうが大事。伝統工芸にもシステムが入ってきたところで復活してきたところはある。職人を職人たらしめているのは知識。チャレンジングな職人ほど先端技術を取り入れる」と述べた。
伝統工芸の本質は何かが重要と語る京都大学総合博物館准教授 塩瀬隆之氏
伝統工芸については、対象を作る職人の苦労があるから価値だと思っている人もいれば、伝統工芸それ自体を残すことに価値があると考える人もいる。伝統工芸を残すことの本質はどこにあるのか。物理的な創作物を残すことなのか、作り方を残すのか、人を残るのか、制作過程における人の意思判断なのか。何を残すのか。
アニメ「AIの遺電子」６話には鍛冶屋の話が出てくる。山田氏は「ロボットは人間を支援・代替するというが、『新しい写真だ』という考え方もある」と述べた。つまり「記録メディア」としてのロボット・AIだ。「レコードやカメラなど、人間は自分達を記録するメディアを作ってきた。職人がどうやって器をつくるのかは身体的な記録で今は取りこぼしている情報が多い。AIやロボットが記録手段として発達し得る」。
職人自体は記録に残すことに抵抗がある人は少ないという。AIやロボティクスを使えば、これまでとは違う次元で記録できるようになるかもしれない。それは世間からもポジティブに受け取られるのではないかという。後継者が出てきたときに教えるための基盤となる可能性もある。
「本当に価値があるポイントは何なのか」と議論が続いた
塩瀬氏は伝統工芸のなかにも「土地と職人のセット」で残ることに意義があるものもあれば、そうでないものもあると指摘。伝統工芸の価値はもともと全部異なり、安易にデジタル化するのではなく「何を次世代に残すのか」、きちんとコミュニケーションしなければならないと語った。
たとえば、仏師は木から仏を彫り上げるとき「仏さんを出してあげる」といった表現を使うことがある。自然木と「対話」しながら彫ることで、毎回異なる仏が出来上がる。いっぽう、今ではNC工作機械を使って、木から毎回寸分違わぬ仏を彫ることもできる。こちらは個性がない。それに対して確率を加えることで異なるものを出すこともできるが、それを個性と見ることができるかどうかは別の話だ。
また、近代の産業用ロボットやAIに多くの努力や苦労が注ぎ込まれている。実際には伝統工芸以上の職人技かもしれない。
安藤氏は「本当に価値があるポイントはどこなのか、現状に合わせてフィードバックすることにデジタルを使う意味がある」と述べた。塩瀬氏はスポーツにおいても科学的データを正しく活用できると述べ、「科学技術がスポーツや伝統工芸を悪くするのではなく使い方次第」と語った。
●■存在のコピーとツールとしてのコピー アイデンティティのバックアップ
「自分の意識や記憶のバックアップが取れるなら取る？取りたくない？選びたくない？」
ロボットやAIのレイヤーを挟んで人を見ると、色々な価値の本質がわかる。それが「AIの遺電子」のテーマの一つでもある。それがもっともわかりやすいのがアニメの第一話と第１１話で出てきた「人格のバックアップ」によるクローンの話だ。ファシリテータの岩澤大地氏は「自分の意識や記憶のバックアップが取れるなら取る？ 取りたくない？選びたくない？」と問いかけた。
山田氏は「どういう扱われ方するかによって変わってくる」と答えた。塩瀬氏と安藤氏は二人とも「取りたくない」と答えた。それも含めて人生だと考えるという。
バックアップの問題は、自分が自分のバックアップを取るか、大切な人に取ってほしいのかで、また話が変わってくる。だが塩瀬氏と安藤氏は二人ともそれでも一緒だと答えた。
人格のバックアップはまだ先の話だろうが、「AIの遺電子 Blue Age」には「デジタルゾンビ」という存在が描かれる。人のライフログを学習し、「この人だったらこうするんじゃないか」ということをわかっているAIだ。デジタルゾンビは遠くない将来に実現する可能性がある。たとえば様々なサービスを使おうと思ったら同意書を読んで了解したかどうか同意を求められる。その同意書を代わりに読んでくれて選択を助けてくれるかもしれない。デジタル代理人、秘書のような存在だ。デジタルゾンビは「もう一人の自分」として死んだあとに残る遺品整理を手伝ってくれるかもしれない。生前のデータを読み込ませることで死後も代わりにSNSに投稿してくれたりもできるようになる。
会場のアンケート結果では「取りたい」が優勢
つまるところ、誰がどのようにバックアップを使うかによる。塩瀬氏は人工冬眠の研究を例に出して、今の技術の延長で実現できるかもしれないが、冬眠するかどうかは「社会を信頼できるかどうか」によると述べた。デジタルバックアップについても、自分が残したデータをよりよく使ってくれるかどうか、その信頼ができるかにもよる。
安藤氏は、この問題には「生きたいか」という文脈と、「忘れられたくない」という文脈が混ざっている、それは違う視点だと指摘した。山田氏も同意し、自分が死んだ後に家族が困るので、使い方は後の人に任せたいと述べた。もし復活が不要であれば「そのまま消去してほしい」という。
安藤健氏は「この問題には『死後に生きたいか』という文脈と『忘れられたくない』という文脈が混ざっている」と整理した
また、自分自身はバックアップは取らないを選択しつつも、「著名人のデジタルクローンと会話してみたい」と考える人は少なくない。そのような場合は、社会的メリットのほうが大きいと判断されると、再現されるかもしれない。
山田氏は「現状の美空ひばりのAI歌唱や、手塚治虫のAI漫画制作は人格の再現までいっていない。だから同意しているが人格自体を再現するようなものなら、みんな躊躇するだろう」と述べた。
「臓器提供カード」のように「デジタルコピーカード」のようなもので生前の意思を示す時代が来るのかもしれない。ただ、人格は個人のものだけではなく社会的に決まってる側面もある。その人を残す残さないの決定権はどこにあるのかは難しい点もある。
山田氏は「ツールとして残ることと、存在として残ることは分けたほうがいい」と述べた。安藤氏は「個人としてという軸と、社会としてという２軸がある。人格はもっと分解される。意識や記憶、それとスキルみたいなもののマトリックスによって議論のやり方が異なる」と述べた。
●■「デジタルゾンビ」は、いつどのように消すべきか
人間の気持ちが納得できるような気持ちで維持／消去する『物語作り』が重要と指摘する山田胡瓜氏
山田氏は「存在そのもののバックアップには慎重になるがでも実際問題、作れる可能性もある。それをどう扱うかが難しい。デジタルゾンビが残っちゃってコミュニケーションもできる場合、それを消すのか。あるいは『四十九日』みたいなプログラムがあって、やんわり消えていくのか。人間の気持ちが納得できるような気持ちで維持／消去する『物語作り』まで含めたサービスを考えないといけない」と述べた。
この問題は現状のペットロボットにも言える。作っているメーカーからすれば商品だが、「家族」となってしまう人もいるし、メーカー側もそんな売り方をしている。そうすれば葬式をしたい人も出てくるし、メーカーサポートが終了しても修理して維持したいと考える人も出てくる。現状のロボットレベルでこうなのだから、将来はもっと違う次元で感情移入する人も出てくることは想像に難くない。そうなったときに「サービス終了します」で済ませられるのか。そういったことをあらかじめ考えたうえで、どういうふうに商品を出すのか考えないといけない。
塩瀬氏は「家には23歳のAIBOがいる。15年ぶりに直してもらった。引き際を作ってくれないと。デジタル四十九日がないと別れられない」と述べた。
ファシリテータの岩澤氏は、韓国の死者のデジタルクローンを作るサービスについて触れ、「お葬式のあとも繋がれてしまう苦しみがある。技術的課題もあるが、それをどうウェルビーイングや人のケアにどう繋げるのか」と問いかけた。
＊動画：
安藤氏は「存在の拡張」という点から答えた。「お墓は存在の拡張。常にそこに行ったらあえる。塩瀬さんは『墓はインターフェースだ』と言っている。それを死者と繋がっていると思えるか思えないのか。人格再現までしなくてもいいのではないか」と述べ「デジタルクローンはいらない」とコメントした。
デジタルクローンの良し悪しは社会が決めるという塩瀬隆之氏
塩瀬氏はヨーロッパでは人生の節目節目に、デートなどでもお墓参りに行って先祖に報告すると習慣があると紹介し、「デジタルクローンも思い出すタイミングが適切ならいいんじゃないか。韓国にはペットクローンもある。それがあってデジタルクローンのサービスが出てきている。良いか悪いかは国とまわりの人がどう思うかにもよる」と述べた。いずれにしても死者を勝手に戻していいのかどうかという問題は残る。そして「将来、２０年、３０年先の人はおそらく別のことで悩むようになる。この問題は『大切なものってなんだろう』ということを突きつけている」と述べた。
●■人は何を大切にしているのかを考えて技術と向き合うこと
最後の問い「生活の中にAIやロボットがどんどん浸透していく中で、今、それらとどう向き合いたいか」
ディスカッション最後の問いは「生活の中にAIやロボットがどんどん浸透していく中で、今、それらとどう向き合いたいか」。
安藤健氏は「このアニメは基本は人について問いかけている。『人って何を自分でしたいんだっけ』ということをしっかり考え切ることが重要なんじゃないか。したくないことはロボットに任せればいいし、したいけどできないことがあればサポートを託す。共進化して、どちらも賢くなる。使う人間側もうまく使いこなして、やりたいことがどんどんできるようになるといい」と述べた。
人は何を自分でしたいのかを問うことが重要と語る安藤氏
塩瀬隆之氏は「ロボットは人間に定められた目標を変えられない。アニメを見て２０年前に考えた『もやもや』を絵にするとこうなるんだと思った。科学技術は人を傷つけもするが救いもする」とコメントした。
ディスカッション中にもSlidoを使って多くの意見が寄せられた
山田胡瓜氏は「今日もたくさん意見や感想を頂いた。多様な意見がある。AIだけではないが、テクノロジーは、ある人にとってはディストピアに見えるが、別の人からすると救い。色々な側面がある。多様な意見があることを念頭においてテクノロジーの進化に向き合ってほしい。良い面悪い面両方があるが、『AIの遺電子』は敢えて明示しない作りをしている。対話して、反対側の立場を理解できるかたちがいい。全否定ではなく、少し対話すると違う側面が見えるかもしれない。そんなことを心がけるといいかもしれない」と語った。
2023年11月からの日本科学未来館の新展示のうち二つはロボット関連
2023年11月から始まる新しいロボット関連展示では、「暮らしの様々なシーンで使われ始めてるロボットを、どう選び、使うのかは『自分が自分の人生をどう生きたいのかに近い』」と考えて作られているという。「技術を使う自分の自分らしさ、自分はどう生きていきたいのか。『この人は何を大切にしているのか』といったことに気づいて、向き合っていくと違うのではないかと考えた」とのこと。新しい展示に期待している。
