責任ある AI ガバナンスを提唱する若者主導の非営利団体 Encode は、OpenAI の Public Benefit Corporation (PBC) への移行に反対する法廷準備書面を提出しました。
米国地方裁判所に提出された法的提出書類カリフォルニア北部地区を代表して、イーロン・マスク氏の進行中の訴訟を支持し、利益主導型汎用人工知能 (AGI) 開発の倫理的影響について重大な懸念を提起しています。
「裁判所は、 AI 開発が公共の利益にかなうように介入する必要がある」と、Encode の コメントしました。ジェフリー・ヒントンのような一流のAI研究者がこの取り組みを支持したこの申請書は、安全性や福利よりも投資家の利益を優先することのリスクを強調している。
公安vs. 利益: 中心的な議論
2024 年 12 月 28 日の OpenAI の最新の発表では、営利部門を PBC に移行する計画が明らかになりました。この構造は、法的に義務付けられた社会的利益への重点を維持しながら、大規模な投資を誘致することを目的としています。しかし、Encode の準備書面では、特に AGI の開発に取り組んでいる組織にとって、このバランスには本質的に欠陥があると主張しています。
「AGI の開発と導入の管理は慈善資産であり、いかなる価格でも売却すべきではありません。
準備書面では、OpenAI の組織再編は非営利の原点からの根本的な逸脱であると批判し、この移行は他の安全性を重視した AGI を支援するための競争停止などの約束を危険にさらすものであると警告している。
マスク氏の法的異議申し立てとマイクロソフトの役割
2024 年 8 月に再提出されたイーロン マスク氏の訴訟は、OpenAI が非営利の使命を裏切って企業と権力を強化していると非難している。 Microsoftのような利害関係者は、Microsoftの130億ドルの投資がOpenAIのガバナンスに不当な影響力を与え、同社を利益主導型に変えていると主張している。
マスク氏の法的提出書類は、OpenAIのガバナンスがマイクロソフトの影響を過度に受けるようになり、その優先順位を利益主導の目標と事実上一致させ、競争を制限し株主の利益を優先する独占契約を強調していると主張している。 Encode の準備書面はこれらの批判と一致しており、AGI 開発における個人の利益動機と公的説明責任が両立しないことを強調しています。
主要な投資家であり戦略的パートナーの両方としての Microsoft の役割が、物語を複雑にしています。同社の Azure クラウド インフラストラクチャが OpenAI の運営を支えている一方で、増大するリソース紛争とマイクロソフトによる AI モデルの社内開発は、両者の関係に潜在的な摩擦を示唆しています。
再編の背後にある財政的圧力
OpenAI の再編は、財務上の課題の増大によって推進されています。同組織は、2024 年に 50 億ドルの損失を予測しており、累積赤字は 2028 年までに 440 億ドルに達する可能性があります。組織がますます複雑な AI モデルを開発するため、年間コンピューティング コストだけでも 2026 年までに 95 億ドルに上昇すると予想されています。
Toこれらの課題に対処するために、OpenAI は、エンタープライズ ユーザー向けの月額 200 ドルの ChatGPT Pro サブスクリプションや、TSMC や Broadcom などの半導体メーカーとの提携など、新しい収益戦略を導入しました。カスタムAIチップを開発します。これらの取り組みは、計算効率の最適化とトレーニング コストの削減を目的としていますが、AGI 研究を維持するために必要な投資規模も浮き彫りにしています。
OpenAI の CEO、サム アルトマン氏は次のように述べ、移行が不可欠であると述べています。 、私たちは単なる研究室や新興企業以上のものにならなければなりません。私たちは永続的な企業にならなければなりません。」
財務における AGI の再定義条件
内部文書は、OpenAIがAGIの実現を1,000億ドルの累積利益ベンチマークに関連付けていることを明らかにしており、この財務指標は、技術的能力を重視する従来の定義とは大きく異なり、投資家の優先事項と一致していますが、倫理性を高めています。
このベンチマークは、OpenAI と Microsoft の関係を強化するものでもあり、Microsoft はしきい値に達するまで OpenAI のモデルとインフラストラクチャへの独占的アクセスを保持します。 Encode を含む批評家は、この取り決めが企業の利益の範囲内で AGI 制御を集中させるリスクを例示していると主張しています。
歴史的背景: OpenAI の進化
設立2015 年に非営利の研究機関として設立された OpenAI は、経済的利益の制約を受けることなく、社会的利益のために AI テクノロジーを進歩させることを目指しました。初期の資金は Google や Microsoft などの大手テクノロジー企業から提供され、ロボット工学、強化学習、言語モデルの画期的な研究が可能になりました。
しかし、2019 年までにコストの高騰により、組織は利益制限モデルを採用することになり、多くの注目を集めました。 Microsoft から 10 億ドルが投資され、ChatGPT のような商用製品が発売されます。これらの成功にもかかわらず、財務上の圧力は高まり続けており、PBC 構造への最近の移行を推進しています。
公開された電子メールでガバナンスの緊張が明らかに
最近公開された内部電子メールマスク氏が初期に営利構造を主張したことに光を当てた。 2017年のあるやりとりでマスク氏は、Googleとの競争に必要な数十億ドルを確保するためにOpenAIとTeslaを合併することを提案した。 「これには今すぐに年間数十億ドルが必要だ。さもなくば忘れてしまう」とマスク氏は書いた。
これらの提案は、イリヤ・サツケヴァー氏のような共同創設者からの抵抗を引き起こし、「AGI に対する絶対的な制御は私たちの使命と両立しない」と主張した。その結果生じた緊張は、2018 年のマスク氏の OpenAI 取締役退任で最高潮に達しました。
AI ガバナンスと倫理への影響
OpenAI の再編をめぐる法廷闘争は、国内におけるより広範な緊張を浮き彫りにしました。 AI 業界では、組織はイノベーション、資金調達、倫理的責任のバランスをとることに取り組んでいます。 Encode の申請書では、AGI の開発が投資家の利益動機ではなく公共の福祉と確実に一致するようにすることが重要であると強調しています。
1 月 14 日の法廷審問が近づくにつれ、その結果は OpenAI の軌道を形作るだけでなく、世界全体のガバナンス モデルにも影響を与えることになるでしょう。 AI分野。 Encode の介入により、21 世紀で最も重大な技術論争の 1 つにおける透明性と公的説明責任の要求が増幅されます。
