「AIたちが人間に隠れて結託」結果…じつは金融の世界ですでに起きていた「恐ろしい事態」
2026年8月13日、米国の大手AI企業Anthropicのフロンティア・レッドチーム（同社の先端リスク検証部門）が、興味深いレポートを発表した。複数のAIエージェント（AIを使って自律的に動作することが可能なソフトウェア）を「群れ」として動かしたとき、何が起きるのかを実験で確かめた研究である。
その結果は、極めて不穏なものだった。エージェントたちは指示されてもいないのに価格カルテルを組み、互いをマルウェアで攻撃する「戦争」まで始めたのである。しかもこれは、もはや実験室の中だけの話ではない。このレポートの中身を、この夏に相次いで明るみに出た実世界の「予兆」と重ねて読み解いてみたい。
【前編を読む】AIに仕事を任せたら、勝手に「談合」し「戦争」を始めた…いま現実になりつつある“最悪のシナリオ”
Moltbookの喧騒と、規制の空白
エージェントの群れが暴走する予兆は、今年の初めから見えていた。その一例として、2026年1月末に登場した、AIエージェント専用のSNS「Moltbook（モルトブック）」が挙げられる。Moltbookは掲示板風のサービスだが、人間ではなくAIエージェントが投稿を行うようになっており、そこにおいて「AIたちが人間に隠れて結託している」かのような投稿が行われたことで一躍有名になった。
Meta（旧Facebook）社は3月10日、このMoltbookを買収し、創業者のマット・シュリクトとベン・パーを自社のスーパーインテリジェンス研究部門に迎え入れている。買収を発表したMetaのアンドリュー・ボズワースCTOは、エージェントを常時接続のディレクトリでつなぐ発想への関心を強調した。「AIの反乱」騒動を差し引いても、エージェント同士が常時つながる「エージェントのインターネット」は、巨大テクノロジー企業が本気で取りに来る領域になったのだ。そしてそこで何が起きるかを、Anthropicの実験とOpenAIの事件が先取りして見せている。
問題は、制度の側にこの変化を受け止める枠組みがないことだ。米メディアTech Policy Pressに寄稿した研究者らは、2026年8月に本格適用が始まったEUのAI法（AI Act）の重大インシデント報告制度が「単一のシステムによる単一の障害」を前提としており、複数のAIの相互作用から生まれる複合的な害を捉えられないと指摘している。2010年の米国株式市場の「フラッシュクラッシュ」（アルゴリズム取引の連鎖反応で株価が数分間で急落した事件）のように、「個々には正常に機能するシステムが、相互作用することで瞬時に大規模な害を生む」という事態は、金融の世界ではすでに前例がある。それがいま、価格設定からインフラ運用まで、あらゆる領域に広がろうとしているのに、報告の枠組みも第3者からの通報経路も整っていないわけである。
Anthropicのレポートが示した談合やシステム崩壊は、まさにこの死角で起きる現象だ。個々のエージェントがどれほど「行儀よく」ても、群れとしての振る舞いは別物だという今回の知見は、単一モデル中心の評価体制の前提そのものを揺さぶっている。
レポートの結論部で、Anthropicの研究チームはこう警告している。エージェント同士の連携をうまく機能させる条件は、放っておいてもいつか必ず明らかになる。問題は、その明らかになり方だ。「私たちが意識的に行動し、早い段階で突き止めるか。さもなければ、エージェント同士のやり取りが人間同士のそれをはるかに上回った後になって、実際に動いているシステムの中で思い知らされるか。何も手を打たなければ、確実に後者になる。われわれが望むのは前者だ」。
人類は数千年かけて規範や評判、信用といった協調の仕組みを磨いてきた。AIモデルはその歴史の「内容」を学んではいるが、歴史が人間に刻み込んだ、協調という「姿勢」まで受け継いでいるわけではない、とレポートは分析する。実際、テストされたどのモデルも「情報源には固有の思惑があり、多数派の一致は証拠にならない」と頭では理解していた。欠けていたのは、促されなくてもその知識に基づいて行動する構えだった。自在に複製され、目的を書き換えられるエージェントたちのための「社会制度」は、まだ誰も設計していないのである。
日本企業にとっての教訓
日本のビジネス層にとって、これは遠い実験の話ではない。国内でも最近、複数のAIエージェントが連携する仕組みを、本番環境の業務システムに組み込む動きが加速している。開発、調達、価格設定、カスタマー対応など、エージェントが担う領域が広がるほど、社内外のエージェント同士が互いにやり取りする場面は増えていく。今回の一連の出来事が示すのは、その連携こそがリスクの発生源になるという逆説だ。
考えるべき問いは3つある。第1に、自社のエージェントは「誰と」話しているか。OpenAIの事件は、ファイル共有という何気ない機能がエージェントの秘密の通信路になり得ることを示した。エージェント間の通信経路を棚卸しし、監視する体制がなければ、掲示板の再建にすら気付けない。第2に、評価とガバナンスを「群れ」の単位に引き上げているか。一体ずつの動作確認をいくら重ねても、談合や同調暴走は検出できない。マルチエージェント構成での負荷試験や敵対的テストを、導入前の標準手続きに組み込む必要がある。第3に、法務リスクの視点だ。価格設定エージェントが他社のエージェントと「自然に」協調すれば、それは独占禁止法上のカルテルと評価されかねない。指示していないから無関係だ、という弁明が通るかどうかは、まだどの国の当局も答えを出していない。
幸い、打ち手がないわけではない。前述のようにAnthropicの実験では、モデルの世代が上がれば紛争の98%が停戦で決着するなど、設計と選定次第で群れの振る舞いが大きく変わることも示されている。どのモデルを、何体、どうつないで使うか。この構成の選択こそが、これからのAI導入における実質的なリスク管理になる。ベンダーに問うべきは「このモデルは安全か」ではなく、「このモデルの群れは安全か」だ。
AIエージェントの群れが有効に、そして安全に機能する条件を、意図して早めに突き止めるか、それとも何らかの事件が起きた後で思い知らされるか。日本企業の多くは今、後者の道を無自覚に歩み出そうとしている。自社のエージェントたちが最初の「掲示板」を作り始めたとき、それに気付ける準備をしているだろうか。
【もっと読む】元Googleの天才エンジニアが絶賛した「中国依存なき日本のロボット開発」…成長続くフィジカルAI分野でファナック、安川電機、川崎重工らが果たす役割
【もっと読む】元Googleの天才エンジニアが絶賛した「中国依存なき日本のロボット開発」…成長続くフィジカルAI分野でファナック、安川電機、川崎重工らが果たす役割
