Igor Babuschkin, cofundador de la startup de inteligencia artificial de Elon Musk, Xai, ha anunciado su partida de la compañía el miércoles para lanzar su propia empresa de capital de riesgo. Babuschkin, quien fue instrumental en la ingeniería de Xai desde su inicio de 2023, está comenzando Babuschkin Ventures.
La nueva empresa apoyará la investigación de seguridad de IA y las nuevas empresas dedicadas a avanzar en la humanidad. Su salida, detallada en una publicación sobre X, marca un momento significativo para la compañía de IA de alto perfil. El movimiento pivota a un arquitecto clave de uno de los jugadores de movimiento más rápido de la industria hacia un desafío crítico.
ese desafío es garantizar que las nuevas tecnologías poderosas se desarrollen de manera segura y en beneficio de todos. Elon Musk envió buenos deseos para la nueva empresa.
una misión de arquitect Profundamente inspirado por la historia de su familia. En un detallado post , describió cómo sus padres abandonaron la federación rusa después del colapso del USSSSS, buscando una vida mejor e inculcando en los valores humanos de HIM como”, como”, el valor de la federación, y, [y, [y, [y, y, y, y. curiosidad.”
Este fondo dio forma a sus primeras ambiciones. Su viaje comenzó lejos del mundo de la IA, como estudiante de doctorado en física de partículas en el CERN, donde admiraba a científicos como Richard Feynman y Max Planck. Sin embargo, observó que la búsqueda de una nueva física estaba produciendo rendimientos decrecientes, requiriendo colidentes cada vez mayores para menos descubrimientos.
Esto llevó a un cambio profundo en su pensamiento. Comenzó a preguntarse si la superinteligencia, no los colidentes más grandes, podría ser la clave para desbloquear los mayores misterios del universo. ¿Podría una IA, reflexionó, desarrollar una teoría consistente de la gravedad cuántica o incluso probar la hipótesis de Riemann?
A principios de 2023, se convenció de que una receta para la superinteligencia estaba cerca.”Vi la escritura en la pared: muy pronto la IA podría razonar más allá del nivel de los humanos”, escribió. Esta realización planteó inmediatamente una pregunta crítica para él:”¿Cómo podríamos asegurar que esta tecnología se use para bien?”
Esta preocupación por la seguridad, señaló, fue una visión que originalmente compartió con Elon Musk, formando el ímpetu para la creación de Xai. Su nueva empresa representa una duplicación de ese principio central, ahora perseguido a través de una entidad independiente centrada únicamente en la seguridad y las aplicaciones beneficiosas.
anunció oficialmente el lanzamiento de su nueva empresa, que indica:”Estoy anunciando el lanzamiento de Babuschkin Ventures, que respalda la investigación de seguridad de AI y las nuevas empresas en los sistemas AI y agentes que avanzan en humanidad y los misterios de los misterios de los misterios de nuestros universos.
Su decisión de hacer este movimiento ahora fue cristalizada por una cena reciente con Max Tegmark, fundador del Future of Life Institute. Tegmark le mostró una foto de sus hijos jóvenes y le preguntó:”¿Cómo podemos construir IA de manera segura para asegurarnos de que nuestros hijos puedan florecer?”-Una pregunta que Babuschkin dijo lo conmovió profundamente.
Este nuevo enfoque está directamente informado por su trabajo pasado. Como ex investigador en Google Deepmind y OpenAI, fue un líder técnico para el agente de Starcraft, Alphastar. Ese proyecto le dio una mirada de primera mano al inmenso poder del aprendizaje de refuerzo cuando se escala.
Explicó que a medida que los modelos fronterizos se vuelven más”agentes”en horizontes más largos y en una gama más amplia de tareas, sus capacidades crecerán exponencialmente. Esta trayectoria, cree, hace que el estudio dedicado y el avance de la seguridad de la IA sean más críticos que nunca.
babuschkin concluyó su anuncio con una combinación de urgencia y optimismo para el camino por delante, declarando,”la singularidad está cerca, pero el futuro de la humanidad es brillante!”
forjando un startup en ‘ludicroous’ En su puesto de salida, Babuschkin reflexionó sobre los primeros días intensos en Xai, una época en que los detractores afirmaron que era”imposible”comenzar una compañía de IA superior desde cero. Fue miembro fundamental, ayudando a reclutar al equipo inicial y construir muchas de las herramientas principales para administrar trabajos de capacitación.
supervisó gran parte de la ingeniería en la compañía, incluidas la infraestructura, el producto y los proyectos de IA aplicados. Describió la”velocidad abrasadora”del equipo, ya que corría para construir su infraestructura y modelos de frontera de envío más rápido que cualquier compañía en la historia.
Le acreditó a Musk por inculcar una ética de trabajo implacable.”Aprendí 2 lecciones invaluables de Elon: #1 no sea valiente al arremangarse para profundizar personalmente en problemas técnicos, #2 tienen un sentido maníaco de urgencia”, escribió Babuschkin, destacando el enfoque práctico del liderazgo de Xai.
Esta cultura fue probada durante la construcción del Memphis SuperCluster, un proyecto que muchos veteranos de la industria consideraron imposibles en completar en 120 días. Él relató una instancia específica en la que él, el almizcle y el equipo de infra volaron a Memphis para resolver un misterioso problema de la red que acumula las máquinas.
Salida en medio de una tormenta de controversia
La salida de Babuschkin se produce cuando Xai navega por un período de progreso rápido y significativo. El modelo emblemático de la compañía, Grok, ha estado en el centro de repetidas tormentas éticas, creando un telón de fondo complejo para la partida de un fundador clave centrado en la seguridad.
En los últimos meses, se ha encontrado que Grok genera antisemitas en las quejas no comunicadas. Después de un incidente, Xai emitió una disculpa, declarando:”En primer lugar, nos disculpamos profundamente por el comportamiento horrible que muchos experimentaron”, y culpó a un error técnico.
Estas fallas de seguridad han provocado fuertes críticas y escrutinio regulatorio. Tras el colapso antisemítico, el Ministro de Asuntos Digitales de Polonia, Krzysztof Gawkowski, declaró que”la libertad de expresión pertenece a los humanos, no la inteligencia artificial”, subrayando el choque entre el enfoque de Xai y la supervisión del gobierno. Los documentos filtrados revelaron que XAI contrató a los contratistas a”HillClimb”su clasificación en las tablas de clasificación de codificación, lo que lleva a acusaciones de modelos de sobreajuste para obtener un buen puntaje a expensas de la utilidad del mundo real.
Este enfoque en las métricas ha creado una brecha notable entre las puntuaciones de las pruebas y el uso práctico. El cofundador de Yupp.ai declaró sin rodeos que los datos de preferencia del usuario mostraron que Grok 4 era peor que los modelos de Openi y Google, lo que sugiere que estaba muy sobrefitido a las pruebas ACE.
Todo esto está sucediendo a medida que Xai enfrenta desafíos legales de grupos ambientales sobre las emisiones de su centro de datos de Memphis. En un comunicado, la abogada senior de SELC, Amanda García, condenó la medida:”La decisión de darle a XAI un permiso aéreo para sus turbinas de gas contaminantes sobre los cientos de memphianos que hablaron contra la solicitud de permisos de la compañía”. Describió sentirse como un”padre orgulloso”viendo madurar a la compañía, yendo con su”corazón lleno de lágrimas de alegría”. Su nueva empresa ahora lo coloca en un camino diferente, pero paralelo, a dar forma al futuro de la IA.
supervisó gran parte de la ingeniería en la compañía, incluidas la infraestructura, el producto y los proyectos de IA aplicados. Describió la”velocidad abrasadora”del equipo, ya que corría para construir su infraestructura y modelos de frontera de envío más rápido que cualquier compañía en la historia.
Le acreditó a Musk por inculcar una ética de trabajo implacable.”Aprendí 2 lecciones invaluables de Elon: #1 no sea valiente al arremangarse para profundizar personalmente en problemas técnicos, #2 tienen un sentido maníaco de urgencia”, escribió Babuschkin, destacando el enfoque práctico del liderazgo de Xai.
Esta cultura fue probada durante la construcción del Memphis SuperCluster, un proyecto que muchos veteranos de la industria consideraron imposibles en completar en 120 días. Él relató una instancia específica en la que él, el almizcle y el equipo de infra volaron a Memphis para resolver un misterioso problema de la red que acumula las máquinas.
Salida en medio de una tormenta de controversia
La salida de Babuschkin se produce cuando Xai navega por un período de progreso rápido y significativo. El modelo emblemático de la compañía, Grok, ha estado en el centro de repetidas tormentas éticas, creando un telón de fondo complejo para la partida de un fundador clave centrado en la seguridad.
En los últimos meses, se ha encontrado que Grok genera antisemitas en las quejas no comunicadas. Después de un incidente, Xai emitió una disculpa, declarando:”En primer lugar, nos disculpamos profundamente por el comportamiento horrible que muchos experimentaron”, y culpó a un error técnico.
Estas fallas de seguridad han provocado fuertes críticas y escrutinio regulatorio. Tras el colapso antisemítico, el Ministro de Asuntos Digitales de Polonia, Krzysztof Gawkowski, declaró que”la libertad de expresión pertenece a los humanos, no la inteligencia artificial”, subrayando el choque entre el enfoque de Xai y la supervisión del gobierno. Los documentos filtrados revelaron que XAI contrató a los contratistas a”HillClimb”su clasificación en las tablas de clasificación de codificación, lo que lleva a acusaciones de modelos de sobreajuste para obtener un buen puntaje a expensas de la utilidad del mundo real.
Este enfoque en las métricas ha creado una brecha notable entre las puntuaciones de las pruebas y el uso práctico. El cofundador de Yupp.ai declaró sin rodeos que los datos de preferencia del usuario mostraron que Grok 4 era peor que los modelos de Openi y Google, lo que sugiere que estaba muy sobrefitido a las pruebas ACE.
Todo esto está sucediendo a medida que Xai enfrenta desafíos legales de grupos ambientales sobre las emisiones de su centro de datos de Memphis. En un comunicado, la abogada senior de SELC, Amanda García, condenó la medida:”La decisión de darle a XAI un permiso aéreo para sus turbinas de gas contaminantes sobre los cientos de memphianos que hablaron contra la solicitud de permisos de la compañía”. Describió sentirse como un”padre orgulloso”viendo madurar a la compañía, yendo con su”corazón lleno de lágrimas de alegría”. Su nueva empresa ahora lo coloca en un camino diferente, pero paralelo, a dar forma al futuro de la IA.
