Il co-fondatore di XAI Igor Babykkin parte per lanciare AI Safety Venture

Igor Babiechkin, co-fondatore della startup di intelligenza artificiale di Elon Musk XAI, ha annunciato mercoledì la sua partenza dalla compagnia per lanciare la sua società di capitale di rischio. Babiechkin, che è stato determinante nell’ingegneria di Xai sin dal suo inizio del 2023, sta iniziando Babykkin Ventures.

La nuova azienda supporterà la ricerca sulla sicurezza di intelligenza artificiale e le startup back dedicate a far avanzare l’umanità. La sua uscita, dettagliata in un post su X, segna un momento significativo per la società di intelligenza artificiale di alto profilo. La mossa ruota un architetto chiave di uno dei giocatori più rapidi del settore verso una sfida critica.

Quella sfida è garantire che nuove potenti tecnologie siano sviluppate in modo sicuro e a beneficio di tutti. Elon Musk sent well wishes for the new venture.

A Foundational Architect’s New Mission

Babuschkin is now focused on a new mission, which he says is profondamente ispirato dalla storia della sua famiglia. In un dettaglio post , ha descritto come i suoi genitori hanno lasciato la federazione russa dopo il crollo dell’USSR, cercando una vita migliore e instillando i valori umani senza prime

Questo sfondo ha modellato le sue prime ambizioni. Il suo viaggio è iniziato lontano dal mondo dell’intelligenza artificiale, come studente di dottorato di Physics presso il CERN, dove ha ammirato scienziati come Richard Feynman e Max Planck. Tuttavia, ha osservato che la ricerca di una nuova fisica stava producendo rendimenti decrescenti, richiedendo collide sempre più grandi per un minor numero di scoperte.

Ciò ha portato a un profondo cambiamento nel suo pensiero. Cominciò a chiedersi se la superintelligenza, non i collider più grandi, potesse essere la chiave per sbloccare i più grandi misteri dell’universo. Un AI, rifletteva, poteva sviluppare una teoria coerente della gravità quantistica o addirittura dimostrare l’ipotesi di Riemann?

all’inizio del 2023, divenne convinto che una ricetta per la superintelligenza fosse vicina.”Ho visto la scrittura sul muro: molto presto l’IA poteva ragionare oltre il livello degli umani”, ha scritto. Questa realizzazione ha immediatamente sollevato una domanda critica per lui:”Come potremmo garantire che questa tecnologia sia usata per sempre?”

Questa preoccupazione per la sicurezza, ha osservato, era una visione che aveva originariamente condiviso con Elon Musk, formando lo slancio per la creazione di Xai. La sua nuova impresa rappresenta un raddoppio su quel principio fondamentale, ora perseguito attraverso un’entità indipendente focalizzata esclusivamente sulla sicurezza e sulle applicazioni benefiche.

Ha annunciato ufficialmente il lancio della sua nuova azienda, affermando:”Sto annunciando il lancio di babykin Ventures, che sostiene la ricerca sulla sicurezza dell’IA e sostengono le start-up in AI e Agentic Systems che avanzano e sblocco i miei università.”

La sua decisione di fare questa mossa ora è stata cristallizzata da una recente cena con Max Tegmark, fondatore del Future of Life Institute. Tegmark gli mostrò una foto dei suoi giovani figli e chiese:”Come possiamo costruire l’IA in sicurezza per garantire che i nostri figli possano prosperare?”-Una domanda che Babuschkin lo ha spinto profondamente.

Questo nuovo focus è direttamente informato dal suo lavoro passato. Come ex ricercatore di Google DeepMind e Openi, era un vantaggio tecnico per l’agente starcraft rivoluzionario, Alphastar. Quel progetto gli ha dato uno sguardo in prima persona all’immenso potere dell’apprendimento del rinforzo quando è in scala.

ha spiegato che quando i modelli di frontiera diventano più”agenti”su orizzonti più lunghi e attraverso una gamma più ampia di compiti, le loro capacità crescerà esponenzialmente. Questa traiettoria, crede, rende lo studio dedicato e l’avanzamento della sicurezza dell’IA più critici che mai.

Babyuschkin ha concluso il suo annuncio con una miscela di urgenza e ottimismo per la strada da percorrere, dichiarando:”La singolarità è vicina, ma il futuro dell’umanità è luminoso!”

forgando una startup a”ludicrous”

Nel suo post di partenza, Babiechkin rifletté sull’intenso, i primi giorni a Xai, un momento in cui i negonisti affermarono che era”impossibile”iniziare da zero una migliore compagnia di intelligenza artificiale. Era un membro fondamentale, contribuendo a reclutare il team iniziale e costruire molti degli strumenti fondamentali per la gestione dei lavori di formazione.

Ha supervisionato gran parte dell’ingegneria dell’azienda, tra cui infrastrutture, prodotti e progetti AI applicati. Ha descritto la”Velocità delle vesciche”del team mentre correva per costruire la sua infrastruttura e spedire modelli di frontiera più velocemente di qualsiasi azienda della storia.

Ha accreditato Musk di instillare un’etica del lavoro implacabile.”Ho imparato 2 lezioni inestimabili da Elon: #1 sii impavido nel rimbalzare le maniche per scavare personalmente in problemi tecnici, #2 ha un senso maniacale di urgenza”, ha scritto Babiechkin, evidenziando l’approccio pratico della leadership di Xai. Ha raccontato un caso specifico in cui lui, Musk e il team di infra sono volati a Memphis per risolvere un misterioso problema di rete che si limitava alle macchine.

Partenza in mezzo a una tempesta di controversia

L’uscita di Babykkin arriva come navigazione XII un periodo di progressi rapidi e significativi turmoil. Il modello di punta dell’azienda, Grok, è stato al centro di ripetute tempeste di fuoco etiche, creando uno sfondo complesso per la partenza di un fondatore chiave incentrato sulla sicurezza.

Negli ultimi mesi, è stato trovato Grok per generare slittamenti antisemiti, produrre slittamenti antisemiti, produrre slittamenti antisemiti. Dopo un incidente, Xai ha emesso scuse, affermando:”Prima di tutto, ci scusiamo profondamente per il comportamento orribile che molti hanno vissuto”e hanno incolpato un bug tecnico.

Questi fallimenti di sicurezza hanno attirato critiche acute e controllo regolamentare. A seguito del tracollo antisemitico, il ministro degli affari digitali polacchi, Krzysztof Gawkowski, ha dichiarato che”la libertà di parola appartiene agli umani, non l’intelligenza artificiale,”sottolineando lo scontro tra l’approccio di Xai e la supervisione del governo.

La ricerca aggressiva della società di riferimento ha anche messo in evidenza. I documenti trapelati hanno rivelato gli appaltatori di XAI a”Hillclimb”la sua classifica sulle classifiche di codifica, portando ad accuse di modelli eccessivamente idonei a ottenere bene a scapito dell’utilità del mondo reale.

Questa attenzione alle metriche ha creato un notevole divario tra le punteggi dei test e l’uso pratico. Il co-fondatore di Yupp.ai ha affermato senza mezzi termini che i dati sulle preferenze dell’utente hanno mostrato che Grok 4 era peggiore dei modelli di Openai e Google, suggerendo che era fortemente sovrapposto ai test ACE.

Questo sta accadendo mentre Xai affronta le sfide legali dei gruppi ambientali sulle emissioni del suo centro dati Memphis. In una dichiarazione, l’avvocato senior di SELC Amanda Garcia ha condannato la mossa:”La decisione di dare a Xai un permesso aereo per le sue turbine a gas inquinanti di fronte alle centinaia di Mempiani che hanno parlato contro la richiesta di permesso della società.”

Nonostante le controversie, Babuschkin ha espresso profondamente il suo team. Descrisse sentirsi come un”genitore orgoglioso”che guardava la compagnia maturare, partendo con il suo”cuore pieno di lacrime di gioia”. La sua nuova impresa ora lo colloca su un percorso diverso, ma parallelo, per modellare il futuro di AI.