Igor Babuschkin, Mitbegründer von Elon Musks künstlichem Intelligenz-Startup XAI, hat am Mittwoch seine Abreise vom Unternehmen angekündigt, um sein eigenes Risikokapitalunternehmen zu starten. Babuschkin, der seit seiner Gründung von 2023 an Xais Engineering beteiligt war, startet Babuschkin Ventures. Sein Ausstieg, der in einem Posten auf X detailliert ist, markiert einen bedeutenden Moment für die hochkarätige KI-Firma. Der Move dreht sich um einen Schlüsselarchitekt eines der am schnellsten bewegenden Akteure der Branche in Richtung einer kritischen Herausforderung. Elon Musk sandte gute Wünsche für das neue Unternehmen. inspiriert von der Geschichte seiner Familie. In a detailed post, he described how his parents left the Russian Federation after the collapse of the USSR, seeking a better life and instilling in him priceless human values like “courage, compassion, [and] Neugier.”
Dieser Hintergrund prägte seine frühen Ambitionen. Seine Reise begann weit von der Welt der KI als Doktorand der Teilchenphysik in Cern, wo er Wissenschaftler wie Richard Feynman und Max Planck bewunderte. Er stellte jedoch fest, dass die Suche nach neuer Physik abnehmende Renditen erzielte und immer schwere Kollider für weniger Entdeckungen erforderte.
Dies führte zu einer tiefgreifenden Veränderung seines Denkens. Er begann sich zu fragen, ob Superintelligence, nicht größere Kollider, der Schlüssel sein könnte, um die größten Geheimnisse des Universums freizuschalten. Könnte eine KI, überlegte er, eine konsistente Theorie der Quantengravitation entwickeln oder sogar die Riemann-Hypothese beweisen?”Ich habe das Schreiben an der Wand gesehen: Sehr bald konnte KI über das Niveau der Menschen hinausgehen”, schrieb er. Diese Erkenntnis stellte sofort eine kritische Frage für ihn auf: „Wie konnten wir sicherstellen, dass diese Technologie zum Guten verwendet wird?“
Diese Sorge um die Sicherheit war eine Vision, die er ursprünglich mit Elon Musk geteilt hatte, und bildete den Impuls für die Erstellung von Xais. Sein neues Unternehmen stellt eine Verdoppelung dieses Kernprinzips dar, das jetzt durch eine unabhängige Entität verfolgt wird, die sich ausschließlich auf Sicherheit und vorteilhafte Anwendungen konzentriert. Um diesen Schritt jetzt zu machen, wurde durch ein kürzliches Abendessen mit Max Tegmark, dem Gründer des Future of Life Institute, kristallisiert. Tegmark zeigte ihm ein Foto seiner jungen Söhne und fragte: „Wie können wir KI sicher bauen, um sicherzustellen, dass unsere Kinder gedeihen können?“-Eine Frage, die Babuschkin sagte, bewegte ihn tief. Als ehemaliger Forscher bei Google DeepMind und OpenAI war er ein technischer Vorsprung für den Breakthrough Starcraft-Agenten Alphastar. Dieses Projekt gab ihm einen Blick auf die immense Kraft des Verstärkungslernens, wenn er skaliert wurde. Er glaubt, dass diese Flugbahn die engagierte Studie und Weiterentwicklung der KI-Sicherheit kritischer als je zuvor.
In seinem Abflugposten dachte Babuschkin über die intensiven, frühen Tage in XAI nach, als Neinsager behaupteten, es sei „unmöglich“, eine Top-KI-Firma von Grund auf neu zu starten. Er war ein grundlegendes Mitglied, das dazu beitrug, das ursprüngliche Team zu rekrutieren und viele der Kernwerkzeuge für die Verwaltung von Schulungsjobs zu erstellen. Er beschrieb die”Blasengeschwindigkeit”des Teams, als es seine Infrastruktur-und Schiffsgrenzmodelle schneller als jedes Unternehmen in der Geschichte aufbaute.”Ich habe 2 unerschütterliche Lektionen von Elon gelernt: #1. Er erzählte von einem bestimmten Fall, in dem er, Musk und das Infra-Team nach Memphis flogen, um ein mysteriöses Netzwerk zu lösen, das die Maschinen räumt. Das Flaggschiff des Unternehmens, Grok, stand im Zentrum wiederholter ethischer Feuersturm und schuf einen komplexen Hintergrund für den Abgang eines wichtigen Gründers, der sich auf Sicherheit konzentriert. Nach einem Vorfall gab Xai eine Entschuldigung aus und erklärte: „Erstens entschuldigen wir uns zutiefst für das schreckliche Verhalten, das viele erlebten. Nach dem antisemitischen Kernschmelz erklärte der Polenminister für digitale Angelegenheiten, Krzysztof Gawkowski, dass „die Redefreiheit dem Menschen gehört, nicht der künstlichen Intelligenz“, die den Zusammenstoß zwischen XAIs Ansatz und staatliche Aufsicht unterstreicht. Durch durchgesickerte Dokumente stellten XAI auf Vertragspartner ein, die seine Rangliste für kodierende Bestenlisten „Hillclimb“ beauftragten, was zu Vorwürfen von Überanpassungsmodellen führte, um auf Kosten des realen Dienstprogramms gut zu punkten. Der Mitbegründer von Yupp.AI stellte fest, dass die Datenpräferenzdaten von Benutzer zeigten, dass GROK 4 schlechter war als Modelle von OpenAI und Google, was darauf hindeutet, dass sie stark in ACE-Tests übernommen wurden. In einer Erklärung verurteilte SELC-Senior-Anwalt Amanda Garcia den Umzug: „Die Entscheidung, XAI eine Luftgenehmigung für seine verschmutzenden Gasturbinen zu geben, fliegt angesichts der Hunderte von Memphianern, die sich gegen die Erlaubnis des Unternehmens aussprachen. Er beschrieb, wie ein „stolzer Elternteil“ das Unternehmen reifen und mit seinem „Herzen voller Freudenrissen“ beobachtete. Sein neues Unternehmen stellt ihn jetzt auf einen anderen, aber parallelen Weg, um die Zukunft der KI zu formen.