Igor Babuschkin, en av grundarna av Elon Musks konstgjorda intelligensstart XAI, har meddelat sin avgång från företaget på onsdag för att starta sitt eget riskkapitalföretag. Babuschkin, som var med i XAI: s teknik sedan starten 2023, börjar Babuschkin Ventures.
Det nya företaget kommer att stödja AI-säkerhetsforskning och tillbaka startups som är dedikerade till att främja mänskligheten. Hans utgång, detaljerad i ett inlägg på X, markerar ett betydande ögonblick för det högprofilerade AI-företaget. Flytten svänger en nyckelarkitekt för en av branschens snabbast rörande spelare mot en kritisk utmaning.
Den utmaningen är att säkerställa att kraftfull ny teknik utvecklas säkert och till förmån för alla. Elon Musk sent well wishes for the new venture.
A Foundational Architect’s New Mission
Babuschkin is now focused on a new mission, which he says is deeply Inspirerad av familjens historia. In a detailed post, he described how his parents left the Russian Federation after the collapse of the USSR, seeking a better life and instilling in him priceless human values like “courage, compassion, [and] Curiosity.”
Denna bakgrund formade hans tidiga ambitioner. Hans resa började långt från AI: s värld, som doktorand i partikelfysik vid CERN, där han beundrade forskare som Richard Feynman och Max Planck. Han observerade emellertid att sökningen efter ny fysik gav minskande avkastning, vilket krävde ständigt större kolliders för färre upptäckter.
Detta ledde till en djup förändring i hans tänkande. Han började undra om superintelligens, inte större kolliders, kunde vara nyckeln till att låsa upp universums största mysterier. Kunde en AI, tänkte han, utveckla en konsekvent teori om kvanttyngd eller till och med bevisa Riemann-hypotesen?
I början av 2023 blev han övertygad om att ett recept för superintelligens var nära.”Jag såg skriften på väggen: mycket snart kunde AI resonera utöver nivån på människor,”skrev han. Denna insikt väckte omedelbart en kritisk fråga för honom:”Hur kunde vi se till att denna teknik används för gott?”
Denna oro för säkerhet, konstaterade han, var en vision som han ursprungligen delade med Elon Musk och bildade drivkraften för Xais skapelse. Hans nya företag representerar en fördubbling av den kärnprincipen, som nu bedrivs genom en oberoende enhet som enbart är inriktad på säkerhet och gynnsamma tillämpningar.
Han tillkännagav officiellt lanseringen av sitt nya företag,”Jag tillkännager Launch of Babuschkin Ventures, som stöder AI Safety Research och backar Startups i AI och Agentic Systems som inte är förenade Humanity och Unitilesyy’s
hans beslut.”För att göra detta drag kristalliserades nu av en ny middag med Max Tegmark, grundare av The Future of Life Institute. Tegmark visade honom ett foto av sina unga söner och frågade:”Hur kan vi bygga AI säkert för att säkerställa att våra barn kan blomstra?”-En fråga som Babuschkin sa flyttade honom djupt. Detta nya fokus informeras direkt av hans tidigare arbete. Som tidigare forskare på Google DeepMind och OpenAi var han en teknisk ledare för genombrottsstjärngenturen, Alphastar. Det projektet gav honom en första hand titt på den enorma kraften i förstärkningslärande när han skalades upp. Han förklarade att när gränsmodeller blir mer”agentiska”över längre horisonter och över ett bredare utbud av uppgifter kommer deras kapacitet att växa exponentiellt. Denna bana, tror han, gör den dedikerade studien och utvecklingen av AI-säkerheten mer kritisk än någonsin tidigare. Babuschkin avslutade sitt tillkännagivande med en blandning av brådskande och optimism för vägen framåt, “Förklara,” The Singularity är nära, men mänsklighetens framtid är ljus!” för att stiger,” The Singularity är nära, men mänsklighetens framtid är ljus!”
