OpenAI共同設立者の一人であり元主任サイエンティストだったイルヤ・サツキヴァー氏による、AIの安全性に取り組むスタートアップ「Safe Superintelligence」が、設立から3カ月で10億ドル(約1400億円)の調達に成功したことがわかりました。

Exclusive: OpenAI co-founder Sutskever's new safety-focused AI startup SSI raises $1 billion | Reuters

https://www.reuters.com/technology/artificial-intelligence/openai-co-founder-sutskevers-new-safety-focused-ai-startup-ssi-raises-1-billion-2024-09-04/

Safe Superintelligence Raises $1 Billion, Reaching $5 Billion Valuation in Just Three Months

https://www.maginative.com/article/safe-superintelligence-raises-1-billion-reaching-5-billion-valuation-in-just-three-months/

OpenAI co-founder raises $1B to build safe superintelligence

https://www.thestack.technology/openai-ssi-ilya-sutskever/

ロイターが報じたところによると、Safe Superintelligenceは、人間の能力をはるかに上回る安全な人工知能システムの開発を支援するため、10億ドルの資金を調達したとのこと。OpenAIは評価額の公表を避けましたが、関係者によると50億ドル(約7200億円)に上るとのことです。

なお、代表的なAI企業のおおよその評価額はOpenAIで1000億ドル(約14兆円)、xAIは240億ドル(約3兆4500億円)、Mistral AIは60億ドル(約8600億円)だといわれています。



Safe Superintelligenceにはサツキヴァー氏のほか、元OpenAI社員のダニエル・レヴィ氏、AppleでAIイニシアチブを率いていたダニエル・グロス氏など複数の著名人が在籍していて、従業員は全員で10名とのこと。表だった業績もなく、チームも小規模なスタートアップに10億ドルもの資金が集まることについて、ロイターは「AIの基礎研究に注力する優秀な人材に投資家が大きく賭けていることを示すもの」と指摘しました。

グロス氏はロイターのインタビューに対し、「安全なスーパー知能開発への道をひたすらに突き進むという我々の使命を理解、尊重し、支持してくれる投資家に囲まれることは、私たちにとって重要なことです。市場に出す前に2、3年かけて製品の研究開発を行います」と述べました。



Safe Superintelligenceを設立したサツキヴァー氏は、もともとOpenAIでAIの安全性を向上させるためのスーパーアライメントチームを率いていました。Safe Superintelligenceも同様にAIの安全性を最優先に機能向上を図ることについて研究する組織ですが、OpenAIと違うのは通常の営利事業として運営されるという点。OpenAIは利益制限付きという組織構造になっており、制限を超えて生み出された利益は「人類の利益のため」に非営利団体に返還されるようになっています。