Igor Babuschkin, co-fondator al startup-ului de inteligență artificială al lui Elon Musk, și-a anunțat miercuri plecarea de la companie pentru a lansa propria firmă de capital de risc. Babuschkin, care a fost un instrument în inginerie Xai de la înființarea sa din 2023, începe Babuschkin Ventures.
Noua firmă va sprijini cercetarea în domeniul siguranței AI și startup-urile din spate dedicate promovării umanității. Ieșirea sa, detaliată într-o postare pe X, marchează un moment semnificativ pentru compania AI cu profil înalt. Mișcarea pivotează un arhitect cheie al unuia dintre jucătorii cu cea mai rapidă mișcare a industriei către o provocare critică.
Această provocare este asigurarea dezvoltării de noi tehnologii puternice în siguranță și în beneficiul tuturor. Elon Musk a trimis urări bune pentru noua aventură.
o noua misiune a arhitectului de fondare
Babuschkin este acum Focus pe o nouă misiune, pe care el spune că el este însoțit de o nouă misiune, pe care el spune că el este însoțit de o nouă misiune, pe care el spune că el este însoțit de o nouă misiune, pe care el spune că el este însoțit de o nouă misiune, pe care o face în mod nou, pe care el spune că el este însoțit de o nouă misiune, pe care o face în mod nou, pe care o face în mod nou. Inspirat de istoria familiei sale. Într-un Post , el a descris cum părinții lui au părăsit federația rusă după prăbușirea USSS, a căutând o viață mai bună și de a-și face cu siguranță.
Acest fundal și-a modelat ambițiile timpurii. Călătoria sa a început departe de lumea AI, ca student doctorat în fizică la CERN, unde a admirat oameni de știință precum Richard Feynman și Max Planck. Cu toate acestea, el a observat că căutarea de noi fizice a dat randamente diminuate, necesitând colizitori din ce în ce mai puține descoperiri.
Acest lucru a dus la o schimbare profundă a gândirii sale. El a început să se întrebe dacă superinteligența, nu colizorii mai mari, ar putea fi cheia pentru deblocarea celor mai mari mistere ale universului. O AI, a spus el, ar putea dezvolta o teorie consistentă a gravitației cuantice sau chiar să dovedească ipoteza Riemann?
Până la începutul anului 2023, a devenit convins că o rețetă pentru superinteligență era strânsă.”Am văzut scrisul pe perete: foarte curând AI ar putea raționa dincolo de nivelul oamenilor”, a scris el. Această realizare a ridicat imediat o întrebare critică pentru el: „Cum ne-am putea asigura că această tehnologie este folosită în bine?”
Această preocupare pentru siguranță, a menționat el, a fost o viziune pe care a împărtășit-o inițial cu Elon Musk, formând impulsul pentru crearea lui Xai. Noua sa aventură reprezintă o dublare a acestui principiu de bază, urmărită acum printr-o entitate independentă, axată exclusiv pe aplicații de siguranță și beneficii.
El a anunțat oficial lansarea noii sale firme, afirmând: „Învăț de lansarea de babuschkin Ventures, care susține cercetarea de siguranță AI și înapoi startup-uri în sistemele AI și agentice care promovează umanitatea și neliniștea misterelor noastre. Faceți această mișcare acum a fost cristalizată printr-o cină recentă cu Max Tegmark, fondatorul Institutului Viitor Life. Tegmark i-a arătat o fotografie cu fiii săi tineri și a întrebat: „Cum putem construi AI în siguranță pentru a ne asigura că copiii noștri pot înflori? În calitate de fost cercetător la Google Deepmind și Openai, el a fost un avans tehnic pentru agentul Starcraft, Alphastar. Acest proiect i-a oferit o privire de primă mână asupra imensă a puterii de învățare a consolidării atunci când a fost redusă.
El a explicat că, pe măsură ce modelele de frontieră devin mai „agentice” pe orizonturi mai lungi și într-o gamă mai largă de sarcini, capacitățile lor vor crește exponențial. This trajectory, he believes, makes the dedicated study and advancement of AI safety more critical than ever before.
Babuschkin concluded his announcement with a blend of urgency and optimism for the road ahead, declaring, “The singularity is near, but humanity’s future is bright!”
Forging a Startup at ‘Ludicrous Speed’
În postul său de plecare, Babuschkin a reflectat în zilele intense, timpurii la Xai, o perioadă în care Nayayers a susținut că este „imposibil” să înceapă de la zero o companie de top AI. El a fost membru fundamental, contribuind la recrutarea echipei inițiale și la construirea multor instrumente de bază pentru gestionarea locurilor de muncă de instruire.
a supravegheat o mare parte din inginerie la companie, inclusiv infrastructură, produs și proiecte AI aplicate. El a descris „viteza blistering” a echipei, deoarece a alergat pentru a-și construi infrastructura și modelele de frontieră a navelor mai repede decât orice companie din istorie.
l-a creditat pe Musk cu insuflarea unei etici de muncă neobosite.”Am învățat 2 lecții neprețuite de la Elon: #1 Fii neînfricat să-ți rostogolești mânecile pentru a săpa personal în probleme tehnice, #2 au un sentiment maniacal de urgență”, a scris Babuschkin, subliniind abordarea practică a conducerii lui Xai.
Această cultură a fost testată în timpul construcției în 120 de zile. El a povestit o instanță specifică în care el, Musk și Echipa Infra au zburat la Memphis pentru a rezolva o problemă misterioasă a rețelei care se ridică pe mașini.
plecare, pe fondul unei furtuni de controverse
Ieșirea lui Babuschkin vine, deoarece Xai navighează o perioadă atât a progresului rapid, cât și a tulburărilor semnificative. Modelul emblematic al companiei, Grok, a fost în centrul unor furtuni etice repetate, creând un fundal complex pentru plecarea unui fondator cheie axat pe siguranță.
În ultimele luni, Grok s-a constatat că generează ranturi antisemitice, produce nuduri de profunzime, care nu sunt conștiente, precum Taylor Swift, și să consulte opinii personale neconsensuale pentru subofițe publice. După un incident, Xai a emis scuze, afirmând: „În primul rând, ne cerem scuze profund pentru comportamentul oribil pe care mulți l-au experimentat” și au dat vina pe un bug tehnic.
aceste eșecuri de siguranță au atras critici ascuțite și control reglementat. În urma derulării antisemitice, ministrul Afacerilor Digitale din Polonia, Krzysztof Gawkowski, a declarat că „Libertatea de exprimare aparține oamenilor, nu inteligenței artificiale,„ subliniind confruntarea dintre abordarea lui Xai și supravegherea guvernului. Documentele scurse au dezvăluit că Xai a angajat contractanți pentru „HillClimb” clasamentul său pe clasamentul de codificare, ceea ce a dus la acuzații de modele de suprasolicitare pentru a marca bine în detrimentul utilității din lumea reală. Co-fondatorul lui Yupp.AI a declarat în mod răspicat că datele de preferință ale utilizatorilor au arătat că Grok 4 a fost mai rău decât modelele de la OpenAI și Google, ceea ce sugerează că a fost foarte suprafrius la testele ACE.
Acest lucru se întâmplă pe măsură ce Xai se confruntă cu provocări legale din grupurile de mediu în ceea ce privește emisiile Centrului de date din Memphis. Într-o declarație, Amanda Garcia, avocatul principal al SELC, a condamnat mișcarea: „Decizia de a-i acorda lui Xai un permis aerian pentru turbinele sale poluante cu gaz zboară în fața sutelor de memfieni care au vorbit împotriva cererii de autorizație a companiei.”
În ciuda controverselor, Babuschkin și-a exprimat afecțiune profundă pentru fosta sa echipă. El a descris să se simtă ca un „părinte mândru” privind compania matur, plecând cu „inima lui plină de lacrimi de bucurie”. Noua sa aventură îl plasează acum pe o cale diferită, dar paralelă, pentru a modela viitorul AI.