Igor Babuschkin, co-fundador da startup de inteligência artificial de Elon Musk, Xai, anunciou sua saída da empresa na quarta-feira para lançar sua própria empresa de capital de risco. Babuschkin, que foi fundamental na engenharia de Xai desde o início de 2023, está iniciando Babuschkin Ventures. Sua saída, detalhada em um post em X, marca um momento significativo para a empresa de IA de alto perfil. O movimento gira um arquiteto-chave de um dos participantes mais rápidos do setor em direção a um desafio crítico.
Esse desafio é garantir que novas tecnologias poderosas sejam desenvolvidas com segurança e para o benefício de todos. Elon Musk enviou votos bem para o novo empreendimento. inspirado na história de sua família. Em um detalhado Post , ele descreveu como seus pais deixaram a federação russa após o colapso da USSR, a melhoria e a pedestres e o priclowlen e a federação russa.
Esse fundo moldou suas primeiras ambições. Sua jornada começou longe do mundo da IA, como estudante de doutorado em física de partículas no CERN, onde ele admirava cientistas como Richard Feynman e Max Planck. No entanto, ele observou que a busca por nova física estava produzindo retornos decrescentes, exigindo que os colhidos cada vez mais esclarecedores para menos descobertas.
Isso levou a uma profunda mudança em seu pensamento. Ele começou a se perguntar se a Superintelligência, não maiores, poderia ser a chave para desbloquear os maiores mistérios do universo. Uma IA, ele pensou, desenvolveu uma teoria consistente da gravidade quântica ou até mesmo provar a hipótese de Riemann?
No início de 2023, ele ficou convencido de que uma receita de superinteligência estava próxima.”Vi a escrita na parede: muito em breve a IA poderia raciocinar além do nível dos humanos”, escreveu ele. Essa percepção imediatamente levantou uma questão crítica: “Como poderíamos garantir que essa tecnologia seja usada para o bem?”Seu novo empreendimento representa uma duplicação nesse princípio central, agora perseguido por uma entidade independente focada apenas em segurança e aplicações benéficas. A decisão de tomar esse movimento agora foi cristalizada por um jantar recente com Max Tegmark, fundador do Future of Life Institute. Tegmark mostrou-lhe uma foto de seus filhos pequenos e perguntou:”Como podemos construir a IA com segurança para garantir que nossos filhos possam florescer?”-uma pergunta que Babuschkin disse que o moveu profundamente.
Esse novo foco é diretamente informado por seu trabalho anterior. Como ex-pesquisador do Google DeepMind e Openai, ele era um líder técnico para o agente estrelado pela Recentemente, Alphastar. Esse projeto deu a ele uma olhada em primeira mão para o imenso poder do aprendizado de reforço quando ampliado. Essa trajetória, ele acredita, torna o estudo e o avanço dedicados da segurança da IA mais críticos do que nunca.
Em seu posto de partida, Babuschkin refletiu sobre os intensos dias em Xai, um momento em que os opositores afirmavam que era”impossível”iniciar uma empresa de IA de primeira linha do zero. Ele era um membro fundamental, ajudando a recrutar a equipe inicial e construindo muitas das principais ferramentas para gerenciar trabalhos de treinamento. Ele descreveu a”velocidade de bolhas”da equipe, pois correu para construir sua infraestrutura e modelos de fronteira de navio mais rapidamente do que qualquer empresa da história.”Aprendi duas lições inestimáveis com Elon: #1 Fearless ao enrolar as mangas para cavar pessoalmente problemas técnicos, o #2 tem um senso maníaco de urgência”, escreveu Babuschkin, destacando a abordagem prática de uma liderança de Xai. Ele contou uma instância específica em que ele, Musk e a equipe da Infra voaram para Memphis para resolver uma rede misteriosa emitir as máquinas. O principal modelo da empresa, Grok, esteve no centro de tempestades éticas repetidas, criando um cenário complexo para a partida de um fundador-chave focado na segurança. Após um incidente, Xai emitiu um pedido de desculpas, afirmando:”Primeiro, pedimos desculpas profundamente pelo comportamento horrível que muitos experimentaram”e culpamos um bug técnico. Após o colapso anti-semita, o Ministro dos Assuntos Digitais da Polônia, Krzysztof Gawkowski, declarou que”a liberdade de expressão pertence a seres humanos, não à inteligência artificial”, ressaltando o confronto entre a abordagem de Xai e a supervisão do governo. Documentos vazados revelaram que a XAi contratou contratados para”HillClimb”seu ranking nas tabelas de codificação, levando a acusações de modelos de excesso de ajuste para marcar bem à custa da utilidade do mundo real. O co-fundador da Yupp.ai afirmou sem rodeios que os dados de preferência do usuário mostravam que o GROK 4 era pior do que os modelos do OpenAI e do Google, sugerindo que foi fortemente equipado com os testes de ACE. Em um comunicado, a advogada sênior da SEL Amanda Garcia condenou a mudança: “A decisão de dar a Xai uma permissão de ar para suas turbinas a gás poluidores é face das centenas de memfians que se manifestaram contra a solicitação de permissão da empresa. Ele descreveu sentir-se como um”pai orgulhoso”assistindo a empresa amadurecendo, deixando com seu”coração repleto de lágrimas de alegria”. Seu novo empreendimento agora o coloca em um caminho diferente, mas paralelo, para moldar o futuro da IA.