予測した未来を現実化する「アルゴリズム」…その「ぞっとするもの」から搾取されないためにできること
「アルゴリズム」は、予測された未来を現実化する“ぞっとする”エージェンシーである。このとき、私たちが搾取されないためにできることとは――。「生産性」という病に取り憑かれた社会を解剖し、解毒剤を練り上げる、気鋭の著者による連載もいよいよ最終盤！
現代社会の「ぞっとするもの」
前回見てきたように、マルクスは「（疎外は）総じて非人間的な力が支配力を揮うところに示されている」と言った。「非人間的な力」は私たちの「自律」を脅かしながらその強大な支配力を揮う。
たとえばマーク・フィッシャーであれば、この「非人間的な力」を「ぞっとするもの（the eerie）」と呼んだだろう。フィッシャーにおける「ぞっとするもの」を、単に「ぞっとする雰囲気」を指し示すものと捉えようとすると勘所を掴みそこねる。一言でいえば、「ぞっとするもの」は行為主体性（エージェンシー）の問題に関わってくる。より具体的には、行為主体性の所在が不明になるときに生じる感覚をフィッシャーは「ぞっとするもの」と呼んだ。つまり、「誰か／何かが働いているのか」「働いているとして、それはどのような主体なのか」という問いが宙吊りになるとき、世界は「ぞっとするもの」に変容する。
たとえば、フィッシャーにとって「資本」こそは、そのような意味における「ぞっとするもの」のひとつに他ならなかった。彼は著書『奇妙なものとぞっとするもの』のなかで、次のようなことを書いている。
「ぞっとするものが行為主体性（エージェンシー）の問題に帰着する以上、それはわれわれの生活を統治する諸力に関係することとなる。とくに、グローバルに遠隔（テレ）−接続（コネクト）された資本主義世界にいるわれわれにとって、そうした諸力をじゅうぶんなかたちで感覚的に把握することができないことはあきらかであるはずだ。資本のような力は実体的な意味では存在していないが、しかし実質的な、あらゆる種類の効果を生みだすことが可能なのである。」（強調引用者）1
私たちの世界は見かけどおりのものではないかもしれない。フィッシャーは「ぞっとするもの」という概念を通して、既存の人間主義的枠組みが破綻する地点、言い換えれば人間の知覚や認識を超えた世界、すなわちフィッシャーが端的に「外部」と呼ぶものを私たちに指し示そうとした。
「Hong Kong Review of Books」の書評記事が指摘するように、「フィッシャーは「ぞっとするもの」を人間のエージェンシーの限界として構成する。すなわち、外部によって支配されているかもしれない世界において、知ることや行為することの能力が失われることとしてである」2。この世界は、人間の知覚や意志を超えたさまざまな力（それは同時に「われわれれの生活を統治する諸力」でもある）--マルクスの言った「非人間的な力」によって貫通されているのかもしれない。唯物論的ホラー。
フィッシャーにとって、それはたとえば「資本」であった（もちろんマルクスにとっても）。しかし、（彼らと異なり）二〇二〇年代を生きる私たちは、「ぞっとするもの」＝「非人間的な力」に、新たに「アルゴリズム」というエージェンシーを含めることができる。
1 マーク・フィッシャー『奇妙なものとぞっとするもの--小説・映画・音楽、文化論集』五井健太郎訳、Pヴァイン、二〇二二、一〇四頁。
2 https://hkrbooks.com/2017/03/07/the-weird-and-the-eerie/
アルゴリズムによる予測は未来それ自体を作り出す
第五回において、私たちは「資本」が織りなすネットワークとあまりに緊密に相互接続されているがゆえに、それ以外のネットワークに接続できない、という「私と資本の相関関係（透明な檻）」について指摘した。同様の相関主義的な桎梏が、私とアルゴリズムとの関係性についても言えることは、同回で「アテンション中毒」として書いたので、ここで再度繰り返すことはしない。
ここではまた異なるパースペクティブから、アルゴリズムが私たちをアディクションの檻に閉じ込めるだけでなく、そのぞっとするような「非人間的な力」を行使してどのように私たちの世界を不断に作り変え、さらには民主主義の土台すらをも掘り崩していくかを素描してみることにする。
ひとつの簡潔なテーゼ。現代におけるアルゴリズムの本質は「予測」にこそある。第五回でも述べたように、アテンション・エコノミーにおいては、レコメンド・アルゴリズムが特定のユーザーの報酬系と強く結びつくと予測されたコンテンツや商品をレコメンドし続けることで、ユーザーの報酬系とコンテンツ間のネットワークを再帰的に強化する（オペラント条件付け）。
私たちの行動を予測するアルゴリズムの台頭。それはとりも直さず、「自律（Autonomy）」の対義的な概念としての「人間の自動化（Automation）」を極限まで推し進める。
たとえば哲学者のカリッサ・ヴェリツも指摘するように、今やアルゴリズムはネット空間のみならず、生活のあらゆる領域を制圧しつつある。アルゴリズムによる予測は、あなたが融資を受けられるか、仕事を得られるか、アパートを借りられるか、保険に加入できるか、といった多くの事柄に介入してくる（にもかかわらず、こうした予測を行うことについて、誰もあなたの許可を求めていない）。
機械学習アルゴリズムによって行われる予測は、統計を用いて未知の空白を埋めようとする。テキスト生成のアルゴリズムは、巨大な言語データベースを使って、ある語列のもっともありそうな続きを予測する。ゲームのアルゴリズムは、過去の大量の対戦データを用いて、次に取りうる最善手を予測する。同様に、人間の行動に適用されるアルゴリズムは、蓄積されたビッグデータから私たちの未来を推論する。私たちが何を買おうとしているのか、転職を考えているのか、病気になるのか、犯罪を犯すのか、自動車事故を起こすのか、といった事々を。
こうしたモデルのもとでは、保険はもはや大勢の人々のあいだでリスクを分散する仕組みではなくなる。むしろ予測は個別化（パーソナライズ）され、私たちはますます、自分自身のリスク・スコアに応じて、自分自身の費用を負担するようになっている。
しかしそれだけではない。ヴェリツは、アルゴリズムによる予測の重要な特徴のひとつは、それが私たちの現実を中立的（客観的）に記述するものではないという点にこそある、と指摘する。
「予測の重要な特徴は、それが現実を記述するものではない、という点にある。予測が対象とするのは現在ではなく未来であり、未来とは、いまだ現実になっていないものだからだ。予測とは一つの推測であり、そのなかには、リスクや価値をめぐるさまざまな主観的判断やバイアスが組み込まれている。たしかに、より正確な予測もあれば、そうでない予測もある。だが、確率と現実との関係は、一部の人が想定するよりもはるかに脆く、倫理的にも問題をはらんでいる。」3
ヴェリツが懸念する倫理的な問題のひとつに、たとえばアルゴリズムが過去の社会的／人種的不平等といったバイアスを学習し、それを将来の判断基準として再生産してしまう点が挙げられる。
ひとつの例。警察活動が集中している貧困地域があるとする。そこでは、たとえば大麻の所持といった軽微な犯罪行為でも逮捕される可能性が高いため、特定の人種や貧困層が高リスクと判定されやすくなる。予測警備アルゴリズムは、過去の犯罪記録から、将来犯罪が起こりそうな場所や人物を特定する。すると、以下のようなフィードバック・ループが生まれることになる。すなわち、ある地域の逮捕記録が多いと、アルゴリズムがその地域を高リスク地域と判定する。するとさらに多くの警察官が配備され、軽微な違反を含め、結果的にその地域の逮捕率がさらに上がり、そのことにより、その地域のリスク評価が一層高くなる、というフィードバック・ループが--。
ここでは何が起こっているのか。というよりも、予測アルゴリズムはここで何を行っているのか。それは単なる「予測」でも、現実の客観的かつ中立的な記述でもない。一言でいえば、アルゴリズムが行っているのは一種の「自己成就的な予言」、予測した未来それ自体を事後的に現実化させる予測である。
つまるところ、アルゴリズムによる予測は、単なる推測や現実の観察とは異なり、現実それ自体に干渉し影響を与えることで現実を再構成する、そのような再帰的予測なのだといえる。たとえば、アルゴリズムが「この応募者はよい従業員にならない」と予測すれば、企業はその人を雇わなくなり、結果として「従業員になる」という可能性それ自体がその人の未来から閉ざされる。
予測と現実はお互いにフィードバックし合う関係にあり、この再帰的ループが強化されるごとに予測＝予言はますます現実を再構成し、未来それ自体を（当てるのではなく）作り出してしまう。あなたが仕事に就けないのは、そのアルゴリズムの予測が正確だからではなく、そのアルゴリズム自体が企業に対してあなたを雇わないよう勧めており、企業がその助言に従っているからかもしれない。
3 https://www.wired.com/story/algorithmic-prophecies-undermine-free-will/
「これを見つけたのはあなたではない。それがあなたを見つけたのだ」
ところが今日の制度はしばしば、予測をあたかも客観的現実のモデルであるかのように見せかけようとする。そしてAIの予測がたんなる確率的なものでしかない場合であっても、実際にはしばしば決定論的なものとして解釈されてしまう。そして、ヴェリツは以下のように書きつける。
「私たちが予測を用いている仕方は、哲学における最も古い論争の一つへとつながる倫理的問題を提起する。すなわち、もし全知の神がいるなら、私たちは本当に自由だと言えるのか、という問題である。もし神がこれから起こることのすべてをすでに知っているのだとしたら、それは、起こるはずのことがすでにあらかじめ定められていることを意味する。そうでなければ、それは知りえないはずだからだ。その含意は、私たちの自由意志の感覚など、しょせん感覚にすぎない、ということである。この見解は「神学的宿命論」と呼ばれる。」4
予測アルゴリズムは、私たち人間主体が先天的に備えているとされる「自由意志」すら蝕みつつあるのではないか、ヴェリツはそのように問いかける。今やアルゴリズムは現代における「全知の神」になろうとしている。私たちはそこに、フィッシャーの「ぞっとするもの」やマルクスの「非人間的な力」を見出す。
卑近な例を通して考えてみよう。YouTubeをクルージングしている際、自分の感性にフィットする素晴らしい動画に意図せずして偶然巡り合ったことはないだろうか。そのような掘り出し物めいた動画には、しばしば次のようなコメントが付けられていることがある。”You don’t find this. It finds you.”、直訳すれば、「これを見つけたのはあなたではない。それがあなたを見つけたのだ」。
私たちが自分の意志にしたがってコンテンツを探し出すのではない。事態はむしろ逆である。コンテンツの方がアルゴリズムを通じて、私たちを見つけ出すのである。さながら不意打ちのように、さながら運命のように、「それ」はアルゴリズムを媒介にして向こう側からやってくる。
私たちはスワイプした先に表示された、アルゴリズムが提示してきたコンテンツを見て、「これこそ私の欲していたものだ」とみずからの欲望を遡行的に見出す（そしてアルゴリズムはその欲望を学習する。ここにも再帰的なフィードバックの機制が働いている）。その意味で、私たちは自分の欲望すらもアルゴリズムという名の不気味なエージェンシー、「非人間的な力」によって規定／再規定されている、と言えないだろうか。
たとえば、YouTubeに転がっている数多のスピリチュアル系動画もまた、こうした「アルゴリズムの機知＝狡知」を効果的に利用（悪用？）している。ある動画のサムネイルには、「一度目の表示で見てください。突然あなたに超ミラクルが起こる」という極彩色の文字列がデカデカと表示されている。その動画のタイトルは「0.03%の人に表示され早い人は1分足らずで来ます!!どうせ自分なんて、と、半ば諦めモードが逆転し奇跡が起こるよう凄いレベルで波動を上げ、開運状態にチューニングするヒーリング528Hz」。私もこの動画がYouTubeのトップに表示されたときは自分の目を疑ったが、こうした動画との邂逅に「運命」を感じる人々が一定数いることもたしかだ（実際、この動画は二五万回以上再生されている5）。
私は第五回で、「レコメンド・アルゴリズムはユーザーの過去の選択を元にコンテンツをレコメンドしてくる。そこにあるのは結局「既知」の（ちょっとした差異を伴った）反復でしかなく、「未知」との偶然的な出会い＝セレンディピティを排除する」、と書いた。しかし、この記述は不正確なものであったと言わなければならない。正確には、アルゴリズムはセレンディピティや偶然の出会いを排除するのではない。むしろアルゴリズムはみずからを媒介にしてそれらを巧みに（再）構築する、つまり外部が内部に織り込まれるのである。
ここにあるのも畢竟、「誰か／何かが働いているのか」「働いているとして、それはどのような主体なのか」という問い、言い換えれば、主体なきエージェンシーにまつわる「ぞっとするもの」についての問いである（なぜある動画が不特定多数のユーザーの間で一斉におすすめに上がるのか。または、なぜ十数年も前のマイナーな動画がこのタイミングで自分にだけおすすめされてくるのか、等々）。しかし人間の知覚や認識を超えた世界＝外部は今では、アルゴリズムという名のブラックボックス（内部）に畳み込まれている。
4 同上。
5 二〇二六年七月時点。
破壊された「エンド・ツー・エンド原則」
アルゴリズムという奇妙な「媒介者＝エージェンシー」。たとえば、日本の大学間ネットワーク「JUNET」の構築に貢献し、日本のインターネットの父と呼ばれる村井純はインタビューのなかで、インターネットにおける自分の信念は「エンド・ツー・エンド原則」であると述べている。その部分を引用してみよう。
「ガバナンスにおける私の信念は、やはり「エンド・ツー・エンド」です。例えば情報の信頼性を証明する技術などをブラウザーなどの「末端（エンド）」に組み込む。送り手と受け手が互いを特定し、信頼できるソースを選択できるようにする。これを政府がトップダウンで規制するのではなく、エンドユーザーが自身の権利と判断で行えるようにする。これがインターネット式の解決策です。インターネットの構造（アーキテクチャ）を変えるのではなく、その上のアプリケーションや社会的な調整で問題を解決していく。この健全な調整機能を、私たちは維持していかなければなりません。」6
「エンド・ツー・エンド原則」については解説が必要かもしれない。これは非常にざっくりと言えば、ネットワークの中間部分はできるだけ単純に保ち、本当に必要な処理は通信の両端、つまり送信者と受信者の側で行うべきだ、という考え方を指す（ここでいう「エンド」とは、たとえば自分のスマホや相手のPCといった、通信の両端にある端末やアプリケーションのことを指す）。
郵便システムで例えるとわかりやすい。郵便局の役割は、封筒を正しい住所まで運ぶことであり、それ以上でも以下でもない（言うまでもなく実際にはもっと多くの仕事があるが、ここではモデルの簡略化のため割愛する）。郵便局が手紙を勝手に開封して、内容を読んだり記録したり書き換えたり、あるいは送り先を恣意的に変更するといった行為は認められていない。手紙の内容が正しいか、暗号化されているか、相手が理解できる形式か、といったことは、送り手と受け手の側で処理するべきであって、郵便局側が介入するべき事柄ではない。それは効率的でないし倫理的にも正しくない。エンド・ツー・エンド原則、それは（村井純も含む）初期インターネットの設計者たちが共有していた「設計格律」のようなものだった。
しかし、現在のインターネットでは、郵便局による介入めいたことがリアルタイムで行われている（おそらく、あなたがこの文章を読んでいる、たった今も）。言うまでもなく、アルゴリズムはその最たる例で、私たちの通信の中間部分に居座り、積極的に関与する。私たちのトラフィックを監視し、あらゆるデータやシグナルを抜き取り、さらには求めていない手紙を「推薦（レコメンド）」と称して勝手に送りつけてきたりする。かくして「エンド・ツー・エンド原則」は破壊され、アルゴリズムという名の招かれざる媒介者が私たちのネットワークに寄生する。
6 https://internet.watch.impress.co.jp/docs/special/2086429.html
アルゴリズム的リアリズム
こうした、アルゴリズムがヘゲモニーを握り、アルゴリズムの予測が「自己成就的予言」として現実すら再帰的に書き換えて、あらかじめ未来を決定していくような閉塞的状況を「アルゴリズム的リアリズム」と呼ぶこともできるだろう。
現に、私たちの現実認識をも規定するアルゴリズムのあり方について、法哲学者のアントワネット・ルヴロワは「アルゴリズム的リアリズム」や「アルゴリズム的統治」といったタームを提唱しながら批判的に考えようとしている。彼女が「アルゴリズム的リアリズム」を発想したとき念頭にあったのは、言うまでもなくフィッシャーの「資本主義リアリズム」である。彼女の"Algorithmic Realism: An Eclipse of the Common（アルゴリズム的リアリズム：共通なるものの失墜）"という論考には以下のような記述がある。
「世界はデジタル信号へ、知性は効率へ、合理性は最適化へ、真理は関連性や有用性へと還元されてしまう。それでもなお、私たちは、認知過程を容易にし加速するものとして経験される自動化に抵抗することを、果たして想像できるだろうか。
マーク・フィッシャーは、資本主義リアリズムとは「資本主義の終わりを想像するよりも、世界の終わりを想像するほうが容易になっている」状態だと述べた。だとすれば、アルゴリズム的リアリズムとは今や、「スマート化せよ」という命令から逃れることを想像するより、世界の終わりを想像するほうが容易になっている状態を意味するのかもしれない。」7
資本主義リアリズムが主に「イデオロギー的閉域」だとすれば、アルゴリズム的リアリズムは「存在論的閉域」と言える。どういうことか。
ここで改めて深く立ち入ることはしないが、資本主義リアリズムは、個人を消費者、労働者、起業家、自己責任を負う主体として形成する。そこでは「わかっているが、どうしようもない」「自分には状況を変えられない」といった再帰的無能感が支配的となる。それに対して、アルゴリズム的リアリズムは、個人は意識的判断や欲望形成の手前で、環境（アーキテクチャ）や注意（アテンション）の調整によって行動を誘導され、予測／計算可能な存在へと還元されていく。アルゴリズムに補足された個人は、意識の手前で（あるいは主体化の手前で）、報酬系とコンテンツ間のネットワークが再帰的に強化されるオペラント条件付けの再帰的プロセスに巻き込まれている。ルブロワはそうしたプロセスを「認知過程の自動化（オートメーション）」と表現する。
ここで、補助線として第五回でも言及した二重過程理論をふたたび参照したい。繰り返しになるが、念のためもう一度説明しておくと、私たち人間には「システム１」と「システム２」という、意思決定と判断に関するそれぞれ異なった思考システムが備わっているとされる。「システム１」は、自動的で迅速な処理を低コストで行う、直感と感情に結びついたシステムだ。一方、「システム２」は、論理的で内省的（反省的）な思考を担当するシステムで、高コストゆえに、基本的に複雑な問題を解決する際や、慎重な意思決定が求められる場面でしか作動しない。
ルヴロワが先の引用文でも指摘していたように、アルゴリズムの浸透は、私たちの「認知過程を容易にし加速するものとして経験される自動化」を際限なく推し進める。その意味で、アルゴリズムの浸透は、「システム１」の効率的で自動的な処理と親和性が高く、両者は相互作用を引き起こすと考えられる。逆に、アルゴリズムによる認知の自動化作用と適合しない「システム２」は、ますます脇に追いやられる形となる。結果、世界はさらに速くなる。言い換えれば、（ショート動画のような）速いコンテンツや速い認知過程（システム１）が適応的に生き残りやすくなる。
アルゴリズムは私たちの「システム１」に寄生する。近年のSNSやショート動画を含めたインターネット環境は明らかに「システム１」に最適化されている。もっと言えば、アルゴリズムが個々人の「システム１」をハックすることで、一握りのテック企業が莫大な利益を得ている--そうしたアテンション・エコノミーとデータ資本主義の実験場と化している。
そこにあっては、私たちユーザーは個人データとドーパミンをプラットフォームのために提供し続ける労働者となる。ビッグデータの原料となる個人データはさながら現代における新たな形式の資本であり、アテンションを引き出すドーパミンは現代における石油である。そうしてプラットフォーマーは賃金すら払わずにユーザーが奉仕する労働＝生産（スワイプやクリック）から剰余価値を貪り食う。
7 Antoinette Rouvroy, “Algorithmic Realism: An Eclipse of the Common,” working paper / discussion paper, 2025, p.6.
私たちの脆弱性が搾取されないためにできること
ここまで書いてきて思い出すのは、批評家の東浩紀が二〇〇二年から二〇〇三年まで『中央公論』で連載していた「情報自由論」だ。いま読んでもアクチュアルで示唆に富む内容を多く含んでいる同連載のなかで東は、情報技術によって駆動するポストモダン社会は、私たちのなかの「人間」と「動物」を切り離して管理している、と指摘する。
東によれば、現代の情報技術は、私たちの自由を拡大する一方で、同時に脅かすという二面性を持つ。たとえば携帯電話のGPSや街中の監視カメラは、私たちの行動やコミュニケーションの自由度を上げることに貢献することもあれば、プライバシーを侵害することもある。私たちを自由にしてくれるテクノロジーは、同時にそのまま監視と管理のインフラにもなりうる。なぜか。東は以下のように説明する。
「それでは、なぜ情報技術はこのような二面性を帯びているのか。それは実は、私たちの生がそもそも二面的だからである。私たちはつねに「人間的」「主体的」「能動的」に「市民」として生活しているわけではない。むしろ、私たちの生活の大半は、目の前に積まれたタスクを「動物的」に惰性でこなし、与えられた商品やメディアでなんとなく渇望を満たしていく、「非主体的」で「受動的」な「消費者」としての時間で満たされている。
［中略］そして、情報技術革命がもたらした個人のエンパワーメントは、この両者の特徴をばらばらに強化し先鋭化する役割を果たしている。言い換えれば、情報社会の到来は、人間をより人間的にすると同時に、ますます動物的にもする。」（強調原文）8
東は二重過程理論にこそ言及していないが、ここでの「人間」と「動物」という二面性がそれぞれ「システム２」と「システム１」に当てはまることは明らかだ。情報技術は、私たちの生に備わっている「非主体的」で「受動的」な「消費者」としての側面、言い換えれば「動物」的な側面を先鋭化させることで、「人間＝システム２」と「動物＝システム１」をより分断させる。東が二〇〇〇年代初頭に指摘した事柄は、現在でも当てはまるどころか、ますます深刻化している、と言わなければならない。
さらに、上述のような「人間／動物」という二分法を唱えたうえで、東は「人間」的側面だけを往々にして特権視する近代的主体観＝強い人間像に対して異を唱える。
「しかし、すべてのひとにつねに「主体的」であれ、とする要請は、はたしてどれほど現実的だろうか。筆者がここで述べたいのは、真の意味で「人間」になれるのは少数のすぐれた人物にすぎず、圧倒的多数は動物性を抑えこむのに失敗する受動的な存在である、といったエリート主義ではない。問題は「すべての」にではなく、「つねに」のほうにある。筆者は、その能力がどれほどのものであれ、ある人物がつねに主体的であることができる、という想定にこそ違和感を覚えるのだ。」（強調原文）9
東と同様の疑念を、私もまた上述のカリッサ・ヴェリツやアントワネット・ルヴロワの人間観に対して抱くことがある。
たとえば、ヴェリツは著書『プライバシーこそ力』のなかで、ビッグ・テックによるデータ資本主義に立ち向かうための重要な要素として、「プライバシー」、「自主」、および「自由」の三つを挙げる。試みに、ヴェリツが「自主」の重要性について述べている箇所を引用してみよう。
「自主とは、自らのことを自ら決める能力を指す。それは一人の大人として、自分の価値観がどのようなものなのかを見極め--自分にとって何が大切なのか、どのような人生を送りたいか--そしてその価値観に基づいて行動することである。自主的な判断を下すとき、それはその判断に責任を持つということであり、あなたの最も深淵な信念を表明できる機会でもある。」10
そして、ヴェリツは決然として次のように言い放つ。「自主とは、自分の生き方を自ら決める力なのだ」11。
たしかに、個人が自主権を持たなかったり、自主的な判断に対する責任感を欠いた民主主義は、見せかけだけのものでしかないのかもしれない。ヴェリツの主張するように、自主に対する意識の希薄な大衆は、影響されやすい群衆となり、「自らの深淵なる価値観を反映した投票行動は行なわず、信念や信条を声高に叫び操る輩に引きずられてしまいがちになる」12。
SNS上で、人を意図的に怒らせたり不快にさせたりすることでアテンション（注目）を稼ぐ投稿やコンテンツに対して「レイジ・ベイト」（rage bait、直訳は「怒りを誘う餌」）という概念が生み出され、オックスフォード英語辞典を出版するオックスフォード大学出版局（OUP）が二〇二五年の「今年の単語」に選び出したのも記憶に新しい。
近年では、高市早苗政権がライバル陣営を中傷する動画を大量に拡散していたと『週刊文春』が報じた。「マイクロ・ターゲティング」手法を用いた政治広告によって二〇一六年の大統領選挙に影響を与えたケンブリッジ・アナリティカ事件にも象徴されるように、アルゴリズムが駆動するネオ・ポピュリズムは民主主義の土台をも掘り崩そうとしている。ヴェリツのような知識人が、こうした動向に深い危惧を抱くのも当然といえる。
しかし一方で、ヴェリツが主張する「自主」は、あまりに「強い主体」を前提にしすぎているとも感じる。そこでは近代主義的な理性的人間観が当然の如く所与のものとして信じられているがゆえに、ともすれば人間に備わっている「システム１」＝「動物」的側面が無視されることになる。
人は常に強いとは限らない。「深淵なる価値観」を常に持ち合わせているとも限らないし、ときには人やAIの意見や助言に対して深く考えずに頼ってしまいたくなることもあれば、「大人としての責任感」をすべて放棄してどこか遠くへ失踪したくなるときもある。
ヴェリツらの「強い主体」を前提とする近代的人間観にも、（前回論じた）一種の「疎外の克服」への志向性が見受けられる。すなわち、アルゴリズムによって奪われた「自主」、「判断力」、「意思決定力」、「理性」といった諸能力を回復することによって、民主主義を担うことのできる成熟した主体を復権することができる、というストーリーだ。
だが私たちが目指すべきは、「システム１」から目をそらし、私たちの動物的側面を抑圧することで理想化された虚構の人間像を打ち立てそこに安住することではない。それでは単なる精神論--言ってしまえば、アルコール依存症患者に対して「自分の意志の力で治せ」と叱りつけるようなもの--に堕してしまうだろう。そのようなアプローチでは、予測アルゴリズムに象徴される諸々のテクノロジーが「システム１」をどのようにハックし、私の生や現実を不断に（そして根本から）改変し、そこから剰余価値を得ているのか、あるいは、私たちの判断がいかなる技術環境的／社会的諸条件のもとで形成されているのかを正確に捉え損ねてしまう。
必要なのは、「システム１」を克服し、つねに理性的で首尾一貫した「システム２」の主体になろうとすることではない。むしろ、自分が容易に誘惑され、誘導され、疲労し、判断を他者に委ねてしまう存在であることを認めたうえで、その脆弱性が一方的に搾取されないような制度や環境を設計するための働きかけを行うことである。
そのためにも、私たちは「自立した近代的主体」ではなく「自律した空間」をこそ創出しなければならない。いわば、「疎外の克服」と「疎外の徹底」とのあいだに、あるいは「自立」と「自動」のあいだに、「自律」という第三の領域を見出さなければならない。個人の意志力である「自主＝自立」から、制度や技術環境を含む諸々のエージェンシーが交叉することによって支えられる関係的な力場としての「自律」へ。
最終回となる次回は、これらの点について触れ、この短い連載を終えることにする。
8 東浩紀『情報環境論集――東浩紀コレクションS』、講談社、二〇〇七、一四九―一五〇頁。
9 同上、一五三―一五四頁。
10 カリッサ・ヴェリツ『プライバシーこそ力――なぜ、どのように、あなたは自分のデータを巨大企業から取り戻すべきか』平田光美・平田完一郎訳、花伝社、二〇二三、八八頁。
11 同上。
12 同上、九二頁。
参考文献
マーク・フィッシャー『奇妙なものとぞっとするもの--小説・映画・音楽、文化論集』五井健太郎訳、Pヴァイン、二〇二二
https://hkrbooks.com/2017/03/07/the-weird-and-the-eerie/
https://www.wired.com/story/algorithmic-prophecies-undermine-free-will/
https://internet.watch.impress.co.jp/docs/special/2086429.html
Antoinette Rouvroy, “Algorithmic Realism: An Eclipse of the Common,” working paper / discussion paper, 2025.
東浩紀『情報環境論集――東浩紀コレクションS』、講談社、二〇〇七
カリッサ・ヴェリツ『プライバシーこそ力――なぜ、どのように、あなたは自分のデータを巨大企業から取り戻すべきか』平田光美・平田完一郎訳、花伝社、二〇二三
