Igor Babuschkin, az Elon Musk mesterséges intelligencia Startup XAI társalapítója, szerdán jelentette be a társaságtól való távozását, hogy elindítsa saját kockázatitőke-cégét. Babuschkin, aki 2023-as kezdete óta szerepelt az Xai mérnöki munkájában, a Babuschkin Ventures indítását indítja. A kilépése, amely az X-es bejegyzésben részletezett, jelentős pillanatot jelent a magas rangú AI társaság számára. A lépés az iparág egyik leggyorsabban mozgó játékosának kulcsfontosságú építészét a kritikus kihívás felé irányítja. Elon Musk jó kívánságokat küldött az új vállalkozáshoz. a családja története ihlette. Részletes poszt , leírta, hogyan hagyta el a szülei az oroszországi szövetséget, miután a Szövetség összeomlása után [és], és arra készteti az ember értékeit, mint „Coarage, és], és] és ösztönözzük az ember értékeit, és] és ösztönözzük az ember értékeit, és] és ösztönözzük az ember értékeit, és] és ösztönözzük őt, és ösztönözzük benne, és ösztönözzük őt, és ösztönözzük őt, és ösztönözzük őt, és ösztönözzük őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt, és ösztönözze őt. kíváncsiság.”
Ez a háttér alakította korai ambícióit. Utazása messze az AI világától kezdődött, mint a CERN részecskefizikai PhD hallgatója, ahol olyan tudósokat csodált, mint Richard Feynman és Max Planck. Megfigyelte azonban, hogy az új fizika keresése csökkenő hozamot eredményez, és kevesebb felfedezéshez szükséges, hogy az egyre nagyobb ütközőket igényel. Elkezdett azon töprengeni, vajon a szuperintelligencia, nem pedig a nagyobb ütközők lehet-e a kulcsa az univerzum legnagyobb rejtélyeinek feloldásához. Lehetséges, hogy egy AI-t kialakíthatott-e a kvantum gravitációjának következetes elmélete, vagy akár bizonyítja a Riemann hipotézist?”Láttam az írást a falon: nagyon hamar az AI az emberek szintjén túlmutathat”-írta. Ez a felismerés azonnal kritikus kérdést vetett fel számára: „Hogyan tudhatjuk biztosítani, hogy ezt a technológiát jó célra használják?”
Ez a biztonság iránti aggodalom-jegyezte meg-egy olyan látomás volt, amelyet eredetileg megosztott Elon Musk-szal, és az Xai teremtésének lendületét képezte. Új vállalkozása megduplázódik az alapelv, amelyet most egy független szervezeten keresztül folytatnak, amely kizárólag a biztonsági és hasznos alkalmazásokra összpontosít.
Az a döntése, hogy ezt a lépést most megteszik, egy nemrégiben készített vacsorával, Max Tegmark-nal, a Life Institute alapítójával. Tegmark megmutatta neki egy fotót fiatal fiairől, és azt kérdezte: „Hogyan lehet biztonságosan építeni az AI-t annak biztosítása érdekében, hogy gyermekeink virágzhassanak?”-Babuschkin szerint egy kérdés mélyen mozgatta. Mint a Google Deepmind és az Openai volt kutatója, technikai vezetője volt az áttöréses Starcraft ügynöknek, az Alphastarnak. Ez a projekt első kézből megnézte neki a megerősítés tanulásának hatalmas erejét, amikor felmérik. Úgy véli, hogy ez a pálya az AI biztonságának elkötelezett tanulmányozását és előrehaladását kritikusabbá teszi, mint valaha.
Indulási üzenetében Babuschkin tükrözte az intenzív, korai Xai-napokat, amikor a Naysayers azt állította, hogy „lehetetlen” a legfontosabb AI-társaság elindítása a semmiből. Alapvető tagja volt, aki segített a kezdeti csapat toborzásában és a képzési munkahelyek kezelésének számos alapvető eszközének felépítésében. Leírta a csapat „hólyagossági sebességét”, amikor az infrastruktúra és a hajó határának modelljeinek gyorsabb kiépítésére fordult, mint bármely társaság a történelemben. „2 felbecsülhetetlen tanulságot tanultam az Elon-tól: #1 Fearless, ha az ujjait felcsavarja, hogy személyesen belemerüljön a műszaki problémákba, a 2. számú mániákus sürgősséggel rendelkezik”-írta Babuschkin, kiemelve az Xai vezetésének gyakorlati megközelítését. Elemelte egy konkrét példát, amikor ő, Musk, és az infra csapata Memphisbe repült, hogy megoldja a gépeket rejtélyes hálózati kérdést. A vállalat zászlóshajója, a Grok, az ismételt etikai tűzviharok középpontjában állt, és összetett hátteret teremtett a biztonságra összpontosító kulcsfontosságú alapító távozására. Egy esemény után az Xai bocsánatkérést adott ki, és kijelentette: „Először is mélyen elnézést kérünk a szörnyű viselkedésért, amelyet sokan megtapasztaltak”, és egy műszaki hibát hibáztattak. Az antiszemita összeomlás után a lengyel digitális ügyek minisztere, Krzysztof Gawkowski kijelentette, hogy „a szólásszabadság az emberekhez tartozik, nem pedig a mesterséges intelligenciához”, hangsúlyozva az Xai megközelítés és a kormányzati felügyelet. A kiszivárogtatott dokumentumok felfedték, hogy az XAI bérelt vállalkozókat a „HillClimb”-re a kódoló ranglistákra vonatkozó rangsorolásához, amelynek vádjához vezettek a túlteljesítő modellekről, hogy jól szerezzék a valós hasznosság rovására. A Yupp.ai társalapítója, Tomplly kijelentette, hogy a felhasználói preferencia-adatok azt mutatták, hogy a GROK 4 rosszabb, mint az Openai és a Google modelljei, és arra utalnak, hogy erősen túlteljesítették az ACE tesztekhez. Egy nyilatkozatában, a SELC vezető ügyvédje, Amanda Garcia elítélte a lépést: „Az a döntés, hogy az XAI-nak légi engedélyt adnak a szennyező gázturbinák számára, a mempfusok százaival szemben, akik a társaság engedélykérése ellen szóltak. Leírta, hogy úgy érezte magát, mint egy „büszke szülő”, aki a társaságot érettnek figyeli, és „az öröm könnyeivel ragyogó szívével” maradt. Új vállalkozása most egy másik, de párhuzamos útra helyezi őt az AI jövőjének kialakításához.