サム・アルトマン氏やイルヤ・サツキヴァー氏らと共にOpenAIを創設したジョン・シュルマン氏がOpenAIを去り、OpenAIの元社員らが立ち上げたAIのスタートアップ「Anthropic」に移籍することがわかりました。OpenAIからは、元主任サイエンティストのイルヤ・サツキヴァー氏やヤン・ライク氏など幹部の離脱が相次いでいます。

OpenAI co-founder Schulman leaves for Anthropic, Brockman takes extended leave | TechCrunch

https://techcrunch.com/2024/08/05/openai-co-founder-leaves-for-anthropic/

OpenAI Co-Founder John Schulman Departs for AI Rival Anthropic - Bloomberg

https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic

シュルマン氏はX(旧Twitter)へ以下のメッセージを投稿しました。

「私はOpenAIを去るという難しい決断をしました。この選択は、AIのアライメント(AIが意図したとおりに動作することを保証するもの)へのフォーカスを深め、実践的な技術的仕事に戻って新しいキャリアをスタートさせたいという私の願望からきています。Anthropicでは新しい視点を得ることができ、私が最も興味を持っているトピックに深く関わっている人々と一緒に研究ができると信じています。はっきりさせておきたいのは、OpenAIでのアライメント研究に対するサポートがないから辞めるということではありません。それどころか、OpenAIのリーダーたちはこの分野への投資に非常に熱心です。私の決断は個人的なものです」

「私は約9年前、大学院卒業後に創業チームの一員としてOpenAIに参加しました。インターンシップ以外で働いたことのある、最初で唯一の会社です。とても楽しかったです。最初に私を採用してくれたサム(・アルトマン)とグレッグ(・ブロックマン)、そして私を信頼し、素晴らしい機会をもたらし、困難をうまく切り抜ける手助けをしてくれたミラ(・ムラティ)とボブ(・マクグルー)に感謝しています。私は、OpenAIで私たち全員が一緒に成し遂げたことを誇りに思っています。公益的な使命を持つ、前例のない珍しい会社を築き上げたのです。私は歴史の一部に加わる機会を与えてくれたことに心から感謝しています。他の場所で仕事をしていても、私はあなたたちを応援しています」





OpenAIのサム・アルトマンCEOは、「OpenAIのためにしていただいたすべてのことに感謝します」とのメッセージを上記の投稿へ返信しました。





OpenAIのアライメントと言えば、かつて汎用人工知能(AGI)の安全性と制御を研究するスーパーアライメントチームが存在していたことで知られていますが、このチームは幹部職だったイルヤ・サツキヴァー氏とヤン・ライク氏の退職に伴い解散しています。このことについて、ライク氏は「安全性についての文化とプロセスが派手な製品を生み出す潮流に負け、限界に達した」などと不満を吐露していました。

OpenAIで超知性の制御と安全性を研究していた「スーパーアライメント」チームが解散、元幹部は「派手な製品が安全性より優先されている」 - GIGAZINE



なお、サツキヴァー氏はOpenAI退職後にAIの安全性に焦点を当てた研究所「Safe Superintelligence」を創設。ライク氏は後にAnthropicへ移籍し、Anthropicで新設されたスーパーアライメントチームの一員となりました。一方でOpenAIはアルトマンCEOをメンバーに入れた「安全・セキュリティ委員会」を新たに立ち上げ、アライメントを含む広義の意味での「AIの安全性とセキュリティ」を研究していく姿勢を見せていました。シュルマン氏は、この「安全・セキュリティ委員会」の科学部門責任者でした。

また、シュルマン氏が退職を公表したのと同じ日に、OpenAIの共同創設者の一人であるグレッグ・ブロックマン氏が「年末まで休暇を取る」と発表しています。