人工知能（AI）について調べれば調べるほど、かなりの頻度で出てくる用語がある。「アーキテクチャ」という言葉だ。

「社会の複雑さに人間が追いつかず、AIが追いつこうとする：菅付雅信連載『動物と機械からはなれて』」の写真・リンク付きの記事はこちら

え、それは「建築」という意味ではないの？と思う人も多いだろう。現在、AI関係で頻繁に取り上げられる「アーキテクチャ」は、建築ではなく、社会の構造、それも人々の考えや行動を規定し、促すシステムを表す言葉と言えばいいだろうか。

アーキテクチャを提唱した法学者ローレンス・レッシグは、「法」「規範」「市場」に次ぐ人を動かす4つ目の力として「アーキテクチャ」を定義している。わたしたちの行動は、かなりの部分、アーキテクチャによって支配されており、AIの発展によってますますそうなるのではというのが彼の論点だ。

では、アーキテクチャが構成する社会はどのように変容しうるのか。アーキテクチャとも位置づけが近しい憲法や法律といった権力に対して、AIはどのような影響を与え、わたしたちの生活は変化しうるのか。AIを法やアーキテクチャの側面から検討し続けてきた3人の賢者に訊いた。

この問題に真正面から向き合った話題の書『AIと憲法』の編者であり、憲法学者の山本龍彦、『自由か、さもなくば幸福か?: 二一世紀の〈あり得べき社会〉を問う』の著者でアーキテクチャ研究の最前線に立ち続けてきた大屋雄裕、「アーキテクチャ」のあり方を探求する気鋭の情報法研究者、成原慧の3名である。

法やアーキテクチャは、わたしたちの思考や行動をどのようにサポートし、もしくは制限する可能性があるのだろうか。まずは、大屋の「自由と幸福」のフレームワークを読み解きながら、人間にとっての自由や幸福のありかを探ってみよう。

「自由と幸福の両立」という幻想

『自由か、さもなくば幸福か？』という挑発的な著書で、大屋はいかに自由と幸福の両立が難しいかを説いている。その上で、訪れるであろう社会像として提示したのが、誰もが平等に相互に監視される社会だ。それを大屋は「ハイパー・パノプティコン」と呼ぶ。

「パノプティコン」とは、哲学者ジェレミ・ベンサムが唱えた円形の刑務所施設のこと。それを哲学者ミシェル・フーコーが近代社会の管理システムにたとえ、現在の哲学、社会学に大きな影響を与えた。

その考え方を発展させたものが「ハイパー・パノプティコン」だ。市民のなかで増幅する不安や、安心・安全の希求が行き着く先に、大屋はテクノロジーによる徹底的な相互監視社会を描いている。

「よく誤解されているのですが、わたしは『ハイパー・パノプティコン』が理想だと言っているわけではないんです。わたしには、20世紀に目指していた自由と幸福の両立を捨てきれない気持ちがあるんです。なぜならば、ハイパー・パノプティコンは不快だからです。受容可能かもしれないが、快適な社会ではありません」

その一方で、自由と幸福の両立という理念にはふたつの課題が存在する。

「そもそも自由と幸福の一致は、夢であり、20世紀の幻想でした。現実化しようとすればするほど、うまくいかなかったことを歴史が物語っています。なぜならば、信じていたほどに社会はシンプルではなかったこと、そして社会の複雑性にわれわれの能力が追いついていないこと、このふたつが挙げられるでしょうね」

大屋は現代社会の複雑性を「新しい中世」という言葉で表現する。中世は、教会、領主、国王とそれぞれが独自のルールを制定し、それが相互に矛盾するなかで「個人の安全が保障されない」時代だった。しかし、近代法の制定により、国家のなかのコントロール権を国家が独占するようになったという。

だが、インターネット空間におけるアーキテクチャや、グーグルやアップルのようなテックジャイアントの登場で、その状況は変わる。AIを駆使するテックジャイアントは、社会の複雑性に追いつき、市場を寡占しようしようとする。さらにグーグルが定めたルールと国家の法が衝突することも出てきた。

「自由とは、規制の総和のなかでしか残されていないものです。それに自覚的になりながら自由を確保していく必要があります。けれども、技術は複雑になり、流通する情報量は増え、新しい中世のような世界が立ち現れてきている。情報量の激増は、もう人間の生物的な処理能力を超えつつあるんですよ」

AIは「民主主義」というフィクションをいかに変容させるか

「政治学者の丸山眞男が『戦後民主主義の虚構に賭ける』と語っていたように、実は近代とは虚構に頼ってきた危ういアーキテクチャなんです。『自由な主体である個人に自由意思があり、その選択によって社会がつくられる』という民主主義の基盤となる考え方や人為主義は、すべてフィクションなんです。でもそれはこれまで最も魅力的なフィクションと考えられてきた」

そう語るのは、憲法学者の山本龍彦だ。大屋と同じく、民主主義や個人の尊重といった近代を成立させてきた考え方を「虚構」と言い切る。まるで歴史学者ユヴァル・ノア・ハラリが「人類は“虚構“を信じることで繁栄してきた」と自著『サピエンス全史』で語ったように。

山本は、AIネットワーク社会において、そのフィクションがどのように変容していくかを考える。彼は『AIと憲法』という編著で、「法律ではなく、憲法のレベルからAIを考え直すべき」と社会に提言する。なぜなら憲法とは、前近代的な身分制度を否定し、個人を尊重する秩序をつくったルールであるからだ。

「AIはビッグデータを基に人々をある集団としてセグメントし、選別していきます。そこでは集団バイアスがかかり個人が尊重されない可能性も出てくるでしょう。たとえば、人種や性別といったものもそれに当たります。それは、個人の尊重原理に基づく憲法と矛盾する可能性があります。憲法は、セグメントの示す確率によって個人の人生が決定される社会ではなく、自己決定権を重要視する社会を選択していると思うんです」

データやAIの確率的評価によってつくり上げられる〈わたし〉と本当の自分との間にあるギャップが縮減していき、それが訂正できなくなれば、主体的に人生をつくり上げることは難しくなっていく。山本はAIネットワーク社会における個人の尊重が損なわれる危険性をそこに見ている。そして、AIを考える上で憲法に立ち返る重要性を次のように考える。

「わたしは法の研究者であり、憲法がそのフィクションを維持せよと言うのならば、まずは維持するための方法を考えるのが職責だと思っています。個人の尊厳の否定は憲法の理想に反する。それでもその世界を選ぶのならば、少なくとも憲法改正が必要ですよね。その場合、AIがつけるスコアを新たな身分とする前近代的な階層社会に戻るという選択肢も存在しますが、わたしたちはそのリスクを果たして受け止められるのか。わたしにとって憲法とは、人々が易きに流れないためのフックになるものなんです。いまテクノロジーが社会の根幹にまで影響を与えるようになったからこそ、憲法の視点からAIというものを捉え直さなければいけません」

自由から逃走する自由

ここで大屋が提示した「自由と幸福」という理念に立ち戻り、これからの幸福のあり方についても考えていきたい。

「幸福にはふたつの考え方があると思います。まず、不幸がないという基準です。たとえば、飢えていたり、命の危機に晒されていたりする状態は不幸ですよね。それがないことは、一定レヴェルの幸福であると言えるでしょう。ふたつ目は、生存条件にかかわる充足がある上で、欲求の充足ややりたいことができているのが幸福につながると考えています」

大屋はそう語りつつ、自由についての見解も示す。

「自由の条件は、『自由から逃走するという自由』を認めることです。21世紀に入り、努力すれば生活がよくなるといったヴィジョンを多くの人が信じられなくなっている。でも、努力しない自由も保障されるべきであり、わたしたちは自由を活用するメリットを提示していかなければならないでしょうね」

ネットワーク社会で「つながらない」幸福

成原も法学者の視点から、幸福に対する考え方を次のように語る。

「日本国憲法13条では幸福追求権が保障されていて、そこからプライヴァシー権など新しい人権が導かれてきました。ここで重要なのは、幸福追求権は、国家やほかの誰かに幸福にしてもらう権利ではないということ。何が幸福かはそもそも人によって尺度が違いますし、何が幸福かという問いも含めて、それぞれの個人が追求していくものです。つまり、自分が幸福だと思うことを追求していく権利が幸福追求権です」

幸福が誰かに与えてもらうものでないのであれば、そこからAI時代における幸福を考えるヒントを引き出すことができる。

「幸福は本来、自ら試行錯誤しながら追求していくべきものですが、幸福を追求する際に、その価値尺度を自分以外のところにもつ可能性もありえます。たとえば、AIに幸福と判断してもらう、といったように。いまでもFacebookで『いいね！』がたくさんついたから幸福だと思ったりする人もいるかもしれない。それは他者に依存した幸福であり、その他者がAIに変わっていく可能性もある。そうすれば、わたしたち人間の行動はより操作しやすくなりますよね」

そこで〈わたし〉に関する問題が登場する。AIによるデータ分析により、個人のあり方そのものが決められる。つまりは、個々のアイデンティティをAIが規定してしまう時代がやってくるかもしれない。そんな時代において、成原は〈わたし〉と向き合う重要性を挙げる。

「AIの出現により、わたしたちは内なる他者と向き合わなければならなくなります。わたしとは誰なのか、わたしは何を欲しているのか、何を幸せに思うのか。それらがAIによって規定される前に、まずは自分と向き合う必要があるのではないでしょうか」

社会から評価されるわたし、他者から見られるわたし、AIから評価されるわたしとは異なる〈わたし〉。つまり、別の可能性があることを常に留保しておくことが重要になる。では、どのように〈わたし〉は獲得し得るのか。

「人為的に『自然』をつくること、だと考えています。日常生活から離れ、自由に思索をすることで〈わたし〉を捉え直す機会をつくること。そのためにも、プライヴァシーが保障されることが重要になってきます」

同じくAI時代の幸福について山本にも尋ねると、成原と近しい考え方を示してくれた。

「いまのネットワーク社会において『つながらない』ことはレアで贅沢であり、幸福なことだと思うんです。インターネットにつながらない状態になることは、AIネットワークシステムから切り離されることであり、それはデータが示す〈わたし〉から逃れる行為であるとも言えるかもしれませんね」