イーロン・マスクの人工知能スタートアップXaiの共同設立者であるイゴール・バブシュンは、水曜日に彼自身のベンチャーキャピタル会社を立ち上げるために会社からの退任を発表しました。 2023年の開始以来Xaiのエンジニアリングに貢献していたBabuschkinは、Babuschkin Venturesを開始しています。 Xの投稿で詳述されている彼の出口は、有名なAI会社にとって重要な瞬間を示しています。このムーブは、業界で最も急速に動くプレーヤーの1人の重要なアーキテクトを重要な課題に向けてピボットします。
その課題は、強力な新しいテクノロジーが安全に、そしてすべての利益のために開発されることを保証することです。 Elon Muskは、新しいベンチャーへの願いを送りました。彼の家族の歴史に深く触発されています。詳細 post 、彼は両親がUSSRの崩壊後にロシア連邦を去り、より良い命を求めて、「勇気のない人間の価値」のような人間の価値のような人間の価値を促進する方法を説明しました。
この背景は彼の初期の野望を形作った。彼の旅は、CERNの粒子物理学博士課程の学生として、AIの世界から遠くから始まりました。しかし、彼は、新しい物理学の検索が収益の減少をもたらし、より少ない発見のために大規模な衝突者を必要とすることを認めた。彼は、より大きな衝突者ではなく、宇宙派が宇宙の最大の謎を解き放つための鍵であるかどうか疑問に思い始めました。 AIは、彼が黙想し、量子重力の一貫した理論を開発するか、2023年初頭までにRiemann仮説を証明することさえできましたか? 「私は壁に書かれているのを見ました。すぐにAIは人間のレベルを超えて推論することができました」と彼は書いた。この実現はすぐに彼に重要な疑問を提起しました:「この技術が善に使用されることをどのように保証できるのでしょうか?」彼の新しいベンチャーは、安全性と有益なアプリケーションのみに焦点を当てた独立したエンティティを通じて追求されているそのコア原則の倍増を表しています。
この動きをするという彼の決定は、The Future of Life Instituteの創設者であるMax Tegmarkとの最近の夕食によって結晶化されました。テグマークは彼に彼の若い息子の写真を見せて、「子供たちが繁栄できることを確実にするためにどのように安全にAIを構築できるのか」と尋ねました。-バブシュキンが言った質問は彼を深く動かしました。 Google DeepmindおよびOpenaiの元研究者として、彼は画期的なスタークラフトエージェントAlphastarの技術的なリードでした。そのプロジェクトは、拡大したときに強化学習の計り知れない力を彼に直接見ました。この軌跡は、AIの安全性の献身的な研究と進歩をこれまで以上に重要なものにしていると彼は信じています。
彼の出発ポストで、バブシュキンはXaiでの激しい初期の頃、NaysayersがトップAI会社をゼロから始めることは「不可能」だと主張した時代を振り返りました。彼は基本的なメンバーであり、最初のチームを募集し、トレーニングジョブを管理するための多くのコアツールを構築するのを支援していました。彼は、チームの「猛烈な速度」を説明し、歴史のどの企業よりも速くインフラストラクチャと船のフロンティアモデルを構築するために競争しました。 「イーロンから2つの貴重な教訓を学びました:＃1袖を巻き上げて技術的な問題を掘り下げるのに大胆不敵になります。＃2は緊急感をマニアルに掘り下げます」とバブシュキンはXaiのリーダーシップの実践的なアプローチを強調しました。彼は、彼、マスク、インフラチームがメンフィスに飛んで、マシンを覆う神秘的なネットワークの問題を解決する特定の事例を語りました。同社の旗艦モデルであるGrokは、繰り返される倫理的な火災の中心にあり、安全性に焦点を当てた主要な創設者の出発のための複雑な背景を作成しました。 1回の事件の後、Xaiは謝罪を発表し、「最初に、多くの人が経験した恐ろしい行動について深く謝罪し、技術的なバグを非難しました。反ユダヤ主義のメルトダウンに続いて、ポーランドのデジタル問題大臣であるKrzysztof Gawkowskiは、「言論の自由は人工知能ではなく人間に属する」と宣言しました。リークされた文書により、Xaiは請負業者をコーディングリーダーボードで「Hillclimb」に雇ったことが明らかになり、現実世界のユーティリティを犠牲にして適切なスコアを獲得するための過剰適合モデルの告発につながりました。 Yupp.aiの共同設立者は、ユーザーの選好データがGrok 4がOpenaiおよびGoogleのモデルよりも悪いことを示しており、ACEテストに非常に過度に過剰になっていることを示唆していると述べました。声明の中で、SELCの上級弁護士であるアマンダ・ガルシアは、「Xaiに汚染ガスタービンの空気許可証を与えるという決定を非難しました。彼は、会社が成熟しているのを見ている「誇り高き親」のような気持ちを説明し、「喜びの涙に満ちた心」を残しました。彼の新しいベンチャーは今、彼を別の、しかし並行して、AIの未来を形作るための道に置いています。
