Igor Babuschkin, współzałożyciel Elon Musk’s Artificial Intelligence Startup XAI, ogłosił w środę odejście z firmy, aby założyć własną firmę venture capital. Babuschkin, który odegrał kluczową rolę w inżynierii XAI od momentu powstania w 2023 r., Rozpoczyna Babuschkin Ventures.
Nowa firma będzie wspierać badania bezpieczeństwa AI i zapleczeniowe startupy poświęcone postępowi ludzkości. Jego wyjście, szczegółowo opisane w poście na X, oznacza znaczący moment dla głośnej firmy AI. Ten ruch obraca kluczowy architekt jednego z najszybciej poruszających się graczy w branży w kierunku krytycznego wyzwania.
To wyzwanie zapewnia bezpieczne opracowywanie nowych technologii. Elon Musk wysłał dobre życzenia nowego przedsięwzięcia.
nowa misja architekta
Babuschkin jest teraz skupiona na nowym misji, o którym jest sami. Zainspirowany historią jego rodziny. W szczegółowym post , opisał, w jaki sposób jego rodzice opuścili federację Rosyjską po załamaniu USSR, ubiegając się o lepsze życie i wpadając w niego i podważając ludzkie wartości, jak „Odwaga, powrót do [i [i [i” i]. ciekawość. “
To tło ukształtowało jego wczesne ambicje. Jego podróż rozpoczęła się daleko od świata AI, jako doktorant fizyki cząstek w CERN, gdzie podziwiał naukowców takich jak Richard Feynman i Max Planck. Zauważył jednak, że poszukiwanie nowej fizyki przyniosło malejące zwroty, wymagające coraz większych koliderów do mniejszej liczby odkryć.
Doprowadziło to do głębokiej zmiany w jego myśleniu. Zaczął się zastanawiać, czy superinteligencja, a nie większe kolidery, może być kluczem do odblokowania największych tajemnic wszechświata. Czy pomyślał, czy AI mógłby opracować spójną teorię grawitacji kwantowej, a nawet udowodnić hipotezę Riemann?
Na początku 2023 r. Przekonał się, że przepis na superinteligencję jest bliski. „Widziałem pismo na ścianie: bardzo wkrótce AI mogło uzasadnić ponad poziom ludzi”-napisał. Ta realizacja natychmiast wywołała dla niego krytyczne pytanie: „Jak moglibyśmy upewnić się, że ta technologia jest używana na dobre?”
Ta troska o bezpieczeństwo, zauważył, była wizją, którą pierwotnie udostępnił Elonowi Muskowi, tworząc impuls do stworzenia Xai. Jego nowe przedsięwzięcie stanowi podwojenie tej podstawowej zasady, obecnie realizowaną przez niezależną podmiot koncentrowaną wyłącznie na bezpieczeństwie i korzystnych zastosowaniach.
Oficjalnie ogłosił uruchomienie swojej nowej firmy, stwierdzając: „Ogłaszam uruchomienie Babuschkin Ventures, które popiera AI Badania Bezpieczeństwa AI i popiera startupy w AI i agresywne systemy, które naprzód ludzkość i uwoltam się z naszych uniwersytetów. Decyzja o wykonaniu tego ruchu została skrystalizowana przez niedawną kolację z Maxem Tegmarkem, założycielem The Future of Life Institute. Tegmark pokazał mu zdjęcie swoich młodych synów i zapytał: „Jak możemy bezpiecznie zbudować sztuczną inteligencję, aby zapewnić, że nasze dzieci mogą się rozwijać?”-pytanie, które Babuschkin powiedział głęboko.
To nowe skupienie jest bezpośrednio informowane przez jego wcześniejszą pracę. Jako były badacz w Google Deepmind i Openai, był kierownikiem technicznym przełomowego agenta Starcraft, Alphastar. Ten projekt dał mu z pierwszej ręki spojrzenie na ogromną siłę uczenia się wzmocnienia po skalowaniu.
Wyjaśnił, że gdy modele graniczne stają się bardziej „agencyjne” na dłuższych horyzontach i w szerszym zakresie zadań, ich możliwości będą rosły wykładniczo. Uważa, że ta trajektoria sprawia, że dedykowane badanie i rozwój bezpieczeństwa AI jest bardziej krytyczne niż kiedykolwiek wcześniej.
Babuschkin zakończył swoje ogłoszenie z mieszanką pilności i optymizmu na przyszłość, ogłaszając: „Singularity jest bliska, ale przyszłość ludzkości jest jasna!”
Upewnienie start-upu przy „ludowej prędkości”
jest jasna!
W swoim stanowisku wyjazdu Babuschkin zastanowił się nad intensywnymi, wczesnymi dniami w XAI, w czasie, gdy naysayers twierdziło, że „niemożliwe” było założenie najlepszej firmy AI od zera. Był członkiem fundamentalnym, pomagając rekrutować początkowy zespół i budować wiele podstawowych narzędzi do zarządzania pracami szkoleniowymi.
Nadzorował większość inżynierii w firmie, w tym infrastruktura, produkt i stosowane projekty AI. Opisał „pęcherzową prędkość” zespołu, gdy ścigał się, aby budować swoje modele infrastruktury i frontiery wysyłki szybciej niż jakakolwiek firma w historii.
Przypisał piżmowi zaszczepienie nieustannej etyki pracy. „Nauczyłem się 2 bezcennych lekcji od Elona: #1 bądź nieustraszony, podnosząc rękawy, aby osobiście zagłębiać się w problemy techniczne, nr 2 ma maniakalne poczucie pilności”-napisał Babuschkin, podkreślając praktyczne podejście do przywództwa Xai.
Kultura została przetestowana podczas budowy Superklastera Memphis, projekt wielu wetanów branżowych do ukończenia w 120 dniach. Opowiedział o konkretnym przypadku, w którym on, Musk i drużyna Infra poleciały do Memphis, aby rozwiązać tajemniczy problem sieciowy, który jest zagrożony maszynami.
odejście wśród burzy kontrowersji
Wyjście Babuschkina pojawia się, gdy XAI porusza okres zarówno szybkiego postępu, jak i znaczącego turmoilu. Flagowy model firmy, Grok, był w centrum powtarzających się etycznych burzy ogniowej, tworząc złożone tło dla odejścia kluczowego założyciela koncentrującego się na bezpieczeństwie.
W ostatnich miesiącach GROK stwierdzono, że GROK generuje antysemickie ranty, produkuje bezsensowne głębokie nagienia publicznych postaci publicznych postaci publicznych, takich jak Taylor Squift, a konsultuje się z musku. Po jednym incydencie XAI przeprosił, stwierdzając: „Po pierwsze, głęboko przepraszamy za przerażające zachowanie, jakie wielu doświadczyło” i obwiniała techniczny błąd.
Te niepowodzenia bezpieczeństwa przyciągnęły ostrą krytykę i kontrolę regulacyjną. Po antysemickiej krachu, Polska Minister Spraw Digital, Krzeysztof Gawkowski, oświadczył, że „wolność słowa należy do ludzi, a nie sztuczną inteligencję,„ podkreślenie zderzenia między podejściem Xai a nadzorem rządu.
Agresywne dążenie firmy za analizyjną supremację. Wyciekające dokumenty ujawniły, że XAI zatrudnili kontrahentów „Hillclimb” na jego rankingu na tablicach wyników w kodowaniu, co prowadzi do oskarżeń o nadmierne dopasowanie modeli do dobrej oceny kosztem rzeczywistego użyteczności.
To skupienie się na wskaźnikach stworzyło zauważalną lukę między wynikami testu a praktycznym zastosowaniem. Współzałożyciel Yupp.ai Bluntly stwierdził, że dane dotyczące preferencji użytkowników wykazały, że GROK 4 były gorsze niż modele z Openai i Google, co sugeruje, że było ono mocno przepełnione do testów ACE.
To wszystko dzieje się, gdy XAI stoi przed wyzwaniami prawnymi grupami środowiskowymi nad emisjami Memphis Data Center. W oświadczeniu starszy prokurator SELC Amanda Garcia potępił ten ruch: „Decyzja o udzieleniu Xai zezwolenia lotniczego na zanieczyszczające turbiny gazowe leci w obliczu setek Memfian, którzy wypowiedzieli się przeciwko prośbie o zezwolenie firmy.”
Mimo kontrowersji Babuschkin wyrażał głębokie przywiązanie do dawnego zespołu. Opisał poczucie „dumnego rodzica” obserwującego dojrzewanie firmy, pozostawiając swoje „serce pełne łez radości”. Jego nowe przedsięwzięcie umieszcza go teraz na innym, ale równolegle, ścieżce do kształtowania przyszłości AI.
