チャットAIのClaudeを開発するAnthropicが2026年3月11日、強力なAIが社会にもたらす課題ついて追求する研究機関「Anthropic Institute」を設立すると発表しました。Anthropic InstituteはAnthropicの共同創業者であるジャック・クラーク氏によって率いられ、機械学習エンジニア・経済学者・社会科学者などの学際的なスタッフで構成されているとのことです。

The Anthropic Institute \ Anthropic

https://www.anthropic.com/institute



Introducing The Anthropic Institute \ Anthropic

https://www.anthropic.com/news/the-anthropic-institute

Anthropic is launching a new think tank amid Pentagon blacklist fight | The Verge

https://www.theverge.com/ai-artificial-intelligence/892478/anthropic-institute-think-tank-claude-pentagon-jack-clark

Anthropicは3月11日のブログで、「私たちは、強力なAIが社会にもたらすであろう最も重要な課題に立ち向かうための新たな取り組みとして、Anthropic Instituteを設立します。Anthropic Instituteは、Anthropic全体の研究成果を活用し、より強力なAIシステムを含む世界への移行期において、他の研究者や一般の人々が活用できる情報を提供します」と述べました。

2021年に設立されたAnthropicは、最初の商用モデルのリリースまで2年がかかったものの、その後の進歩は信じられないほどのスピードだったと主張。今後2年間ではさらに劇的な進歩が予測され、「極めて強力なAI」は多くの人々が考えるよりも早く登場するだろうとの見解を示しています。

強力なAIシステムは、「人々の仕事や経済をどのように変革するのか？」「社会の回復力を高めるためのどのような機会をもたらすのか？」「どのような脅威を生み出し、増大させるのか？」「AIシステムがもたらす『価値』とは何か？」「企業が適切な価値を見極めるために社会が支援できることとは？」「AIが再帰的に自己改善し始めた場合、誰が気付くのか？」「どうやってAIを管理すればいいのか？」といった多種多様な課題を提起します。

Anthropic Instituteの目標は、Anthropicが最先端のAIシステムを構築する中でこれらの課題について学んだことを発信し、外部の関係者と連携してリスクへの対処を支援することです。Anthropicは、「私たちの社会がこれを実現できるかどうかが、変革をもたらすAIが科学や経済発展、そして人間の営みにおいて、私たちが実現可能だと考えているような劇的なメリットをもたらすかどうかを左右するのです」と主張しました。



Anthropicの共同創業者であるクラーク氏は、Anthropic Instituteを率いるとともにAnthropicの公共利益部門の責任者という新たな役割に就任します。Anthropic Instituteは機械学習エンジニア・経済学者・社会科学者といった学際的なスタッフで構成されており、以下の3つの研究チームを統合・拡大するとのこと。

・フロンティアレッドチーム：AIシステムのストレステストを実施し、その現状の能力の限界を探る。

・社会インパクトチーム：AIが現実世界でどのように活用されているかを研究する。

・経済研究チーム：AIが雇用や経済全体に与える影響を追跡する。

また、Anthropic Instituteでは新たなチームも育成しており、AIの進歩を予測したり、AIと法制度の相互作用をより深く理解したりする取り組みを進めているとしています。

Anthropicは、「Anthropic Instituteは『最先端のAIシステムを開発する者だけが持つ情報にアクセスできる』という独自の視点を有しています。この強みを最大限に活用し、開発中の技術の方向性について得られた知見を率直に報告していきます。同時に、当研究所は双方向の活動も行っています。職を失う危機に直面している労働者や業界、そして未来への危機を感じながらもどう対応すべきか迷っている人々やコミュニティと連携していきます。そこで得た知見は、当研究所の研究内容、そして当研究所全体の行動指針となります」と述べました。

Anthropic Instituteは約30人で発足し、創設メンバーにはイェール・ロー・スクールのレジデントフェローを務めるマット・ボトヴィニック氏、バージニア大学の経済学教授だったアントン・コリネック氏、かつてOpenAIでAIの社会的および経済的影響を研究していたゾーイ・ヒッツィヒ氏らが加わります。

さらにAnthropicは、Anthropic Instituteの設立と並行して公共政策部門を拡大していくことも発表しました。公共政策部門はモデルの安全性および透明性、インフラへの投資、AI分野における民主的リーダーシップなど、Anthropicが優先課題として定義した領域に焦点を当てます。

Anthropic Instituteの設立は、Anthropicとアメリカ政府の対立が深まる中で行われました。Anthropicは自社製AIを「大規模な国内監視」や「完全自律型兵器」に使用することを制限しており、これに不満を持ったアメリカ国防総省はAnthropicを「アメリカの国家安全保障に対するサプライチェーンリスク」に指定しました。

AI企業のAnthropicが「アメリカの国家安全保障に対するサプライチェーンリスク」に正式に指定される、Anthropicは法廷闘争を宣言 - GIGAZINE



テクノロジー系メディアのThe Vergeはクラーク氏に対し、短期的に収入の一部を失う可能性が高いにもかかわらず、長期的な研究にリソースを投入することへの懸念を尋ねました。これにクラーク氏は、「まったく懸念していません」「人は信頼を買う傾向があります。私たちが提供できるものの多くは、企業が私たちを信頼するのに役立つような研究です」と述べ、長期的には安全性への投資が自社の利益になるとの見解を示しました。