OpenAI は、「スーパーインテリジェント」AI システムの管理と指導を担当する Superalignment チームが深刻なリソース制限に直面しているため、内部混乱に取り組んでいます。チームは当初、会社のコンピューティング リソースの 20% を提供すると約束していましたが、その後も頻繁に要求が来ています。内部関係者によると、その計算の一部は拒否されました。
主な辞任と公式声明
リソース割り当ての問題により、いくつかのチームが辞任しました。共同リーダーの Jan Leike 氏は元 DeepMind 研究者であり、ChatGPT、GPT-4、および InstructGPT は、同社の中核的優先事項に関して OpenAI のリーダーシップとの意見の相違を公に引用しました。ライク氏は、X に関する一連の投稿の中で、同社の焦点について懸念を表明し、将来の AI への準備にさらなる努力を注ぐ必要があると述べました。
昨日は、調整責任者、スーパー調整責任者、および幹部としての最後の日でした @OpenAI.
— Jan Leike (@janleike) 2024 年 5 月 17 日
スーパーアライメント チームの結成と目標
前年 7 月に結成されたスーパーアライメント チームは、Leike と OpenAI の共同創設者 Ilya Sutskever が率いていました。チームは、超インテリジェント AI の制御に関する技術的課題に 4 年以内に対処することを目指しました。これには、OpenAI のアライメント部門の科学者とエンジニア、および他の組織の研究者が含まれていました。チームの使命は、研究と外部研究者をサポートする助成金プログラムを通じて AI モデルの安全性に貢献することでした。
安全性に関する研究を発表し、数百万ドルの助成金を分配したにもかかわらず、OpenAI のリーダーシップがますます重点を置く中、スーパーアライメント チームは苦戦しました。製品の発売。 OpenAIの前取締役会によるサム・アルトマンCEOの追放が失敗に終わり、サツケヴァー氏が辞任したことで内部対立はさらに悪化した。 Sutskever 氏の役割は、スーパーアライメント チームと他の部門の橋渡しをし、主要な意思決定者にその重要性を主張する上で不可欠でした。
[埋め込みコンテンツ]
解雇と追加退職 >
スーパーアライメント チーム内の混乱により、レオポルド・アッシェンブレナー氏とパベル・イズマイロフ氏という 2 人の研究者が企業秘密を漏洩したとして解雇されました。もう一人のチームメンバーである William Saunders 氏は 2 月に OpenAI を去りました。さらに、AI のポリシーとガバナンスに取り組んでいる 2 人の OpenAI 研究者、Cullen O’Keefe と ダニエル・ ココタジロは、最近会社を辞めたようです。 OpenAI は、Sutskever や Superalignment チームの他のメンバーの辞任、または長期的な AI リスクに関する取り組みの今後についてコメントすることを拒否しました。
辞任を受けて、ジョン・ シュルマンは、以前に Superalignment チームが担当していた作業の責任を引き継ぎました。ただし、チームはもはや専用の組織としては存在しません。代わりに、その機能は社内のさまざまな部門に統合されます。 OpenAI の広報担当者は、この変更を「[チームを] より深く統合する」ための動きであると説明しましたが、この統合によって AI の安全性への焦点が薄れる可能性があるという懸念があります。
OpenAI のより広範な AI の安全性取り組み
Superalignment チームの解散により、OpenAI の AI 開発の安全性と整合性の確保に対する取り組みに疑問が生じています。OpenAI は、プライバシーなどの問題に焦点を当てた Preparedness チームと呼ばれる別の研究グループを維持しています。同社はまた、新しいマルチモーダル モデル GPT-4o に基づく ChatGPT の新バージョンを含む、実験的な AI プロジェクトをいち早く開発し、公開してきました。これにより、ChatGPT は世界を認識し、会話することができます。ライブストリーミングのデモンストレーション中、ChatGPT の新バージョンは人間の感情を模倣し、ユーザーと戯れようとしました。
OpenAI の憲章は、人類の利益のために汎用人工知能を安全に開発することを義務付けています。スーパーアライメント チームは、潜在的に超インテリジェントな AI を制御する問題に取り組む主要チームとして公的に位置づけられました。最近の社内紛争やリソース割り当ての問題は、責任を持って AI を開発するという同社の使命に影を落としています。
