Igor Babuschkin, salah satu pendiri startup intelijen buatan Elon Musk, telah mengumumkan kepergiannya dari perusahaan pada hari Rabu untuk meluncurkan perusahaan modal ventura sendiri. Babuschkin, yang berperan dalam rekayasa Xai sejak awal 2023, memulai usaha Babuschkin.
Perusahaan baru ini akan mendukung penelitian keselamatan AI dan startup kembali yang didedikasikan untuk memajukan kemanusiaan. Keluarnya, dirinci dalam sebuah pos di X, menandai momen yang signifikan bagi perusahaan AI profil tinggi. Langkah ini berputar sebagai arsitek kunci dari salah satu pemain yang bergerak tercepat di industri menuju tantangan kritis.
Tantangan itu memastikan teknologi baru yang kuat dikembangkan dengan aman dan untuk kepentingan semua. Elon Musk mengirim harapan baik untuk usaha baru.
post , ia menggambarkan bagaimana orang tuanya meninggalkan federasi Rusia setelah keruntuhan USSR, mencari kehidupan yang lebih baik,”Kehidupan yang lebih baik di dalamnya,”PENGAGI KEBAIKAN,”PENDIAKAN PERUSAHAAN,”PENDIAKAN PRICIONAL”PENDIAKAN PRICIONAL”
Latar belakang ini membentuk ambisi awalnya. Perjalanannya dimulai jauh dari dunia AI, sebagai mahasiswa PhD fisika partikel di CERN, di mana ia mengagumi para ilmuwan seperti Richard Feynman dan Max Planck. Namun, ia mengamati bahwa pencarian fisika baru menghasilkan pengembalian yang semakin berkurang, membutuhkan colliders yang semakin besar untuk penemuan yang lebih sedikit.
Ini menyebabkan perubahan besar dalam pemikirannya. Dia mulai bertanya-tanya apakah pengawasan, bukan colliders yang lebih besar, bisa menjadi kunci untuk membuka misteri terbesar alam semesta. Bisakah AI, renungnya, mengembangkan teori gravitasi kuantum yang konsisten atau bahkan membuktikan hipotesis Riemann?
Pada awal 2023, ia menjadi yakin bahwa resep untuk superinteligensi dekat.”Saya melihat tulisan di dinding: segera AI bisa beralasan di luar tingkat manusia,”tulisnya. Kesadaran ini segera mengajukan pertanyaan penting baginya:”Bagaimana kita bisa memastikan bahwa teknologi ini digunakan untuk kebaikan?”
Kekhawatiran ini untuk keselamatan, katanya, adalah visi yang awalnya dia bagikan dengan Elon Musk, membentuk dorongan untuk penciptaan Xai. Usahanya yang barunya mewakili dua kali lipat pada prinsip inti itu, yang sekarang dikejar melalui entitas independen yang hanya berfokus pada aplikasi keselamatan dan menguntungkan.
Dia secara resmi mengumumkan peluncuran perusahaan barunya, yang menyatakan, “Saya mengumumkan peluncuran usaha pin-kawan yang ada di luar negeri, yang mendukung misteri dan kembali dengan misteri,”Sistem Humanionis, dan BACKE MYSE OUS MYSE OUS DAN PEMBACARAN PADI. Buat langkah ini sekarang dikristalisasi oleh makan malam baru-baru ini dengan Max Tegmark, pendiri Future of Life Institute. Tegmark menunjukkan kepadanya foto putra-putranya yang masih kecil dan bertanya,”Bagaimana kita bisa membangun AI dengan aman untuk memastikan bahwa anak-anak kita dapat berkembang?”-Sebuah pertanyaan yang dikatakan Babuschkin menggerakkannya secara mendalam.
Fokus baru ini secara langsung diinformasikan oleh pekerjaan masa lalunya. Sebagai mantan peneliti di Google DeepMind dan Openai, ia adalah pemimpin teknis untuk agen Starcraft terobosan, Alphastar. Proyek itu memberinya pandangan langsung pada kekuatan besar pembelajaran penguatan ketika ditingkatkan.
Dia menjelaskan bahwa ketika model perbatasan menjadi lebih”agen”di atas cakrawala yang lebih panjang dan melintasi berbagai tugas yang lebih luas, kemampuan mereka akan tumbuh secara eksponensial. Lintasan ini, menurutnya, membuat studi khusus dan kemajuan keselamatan AI lebih kritis daripada sebelumnya.
Babuschkin menyimpulkan pengumumannya dengan perpaduan urgensi dan optimisme untuk jalan di depan, menyatakan,”Singularitasnya, tetapi masa depan manusia yang cerah!”
Di pos keberangkatannya, Babuschkin merefleksikan hari-hari awal yang intens di Xai, saat ketika para penentang mengklaim”tidak mungkin”untuk memulai perusahaan AI top dari awal. Dia adalah anggota dasar, membantu merekrut tim awal dan membangun banyak alat inti untuk mengelola pekerjaan pelatihan.
Dia mengawasi banyak teknik di perusahaan, termasuk infrastruktur, produk, dan proyek AI terapan. Dia menggambarkan”kecepatan lepuh”tim saat itu berlari untuk membangun infrastrukturnya dan model perbatasan kapal lebih cepat daripada perusahaan mana pun dalam sejarah.
Dia memuji Musk dengan menanamkan etos kerja tanpa henti.”Saya belajar 2 pelajaran yang tak ternilai dari Elon: #1 tidak takut dalam menggulung lengan baju Anda untuk secara pribadi menggali masalah teknis, #2 memiliki rasa urgensi yang gila,”tulis Babuschkin, menyoroti pendekatan langsung ke dalam proyek XAI.
Budaya ini diuji selama pembangunan Memphis Supercluster, Apphis Project. Banyak industri. Dia menceritakan contoh khusus di mana dia, Musk, dan tim infra terbang ke Memphis untuk memecahkan masalah jaringan misterius yang mengungguli mesin.
keberangkatan di tengah badai kontroversi
Keluar Babuschkin datang ketika XAI menavigasi periode kemajuan cepat dan signifikan. Model andalan perusahaan, Grok, telah menjadi pusat badai etik berulang, menciptakan latar belakang yang kompleks untuk kepergian pendiri utama yang berfokus pada keamanan.
Dalam beberapa bulan terakhir, Grok telah ditemukan untuk menghasilkan kata-kata kasar antisemit, dan menghasilkan tongkat parah yang tidak konsensual. Setelah satu insiden, Xai mengeluarkan permintaan maaf, menyatakan,”Pertama, kami sangat meminta maaf atas perilaku mengerikan yang dialami banyak orang,”dan menyalahkan bug teknis.
Kegagalan keselamatan ini telah menarik kritik tajam dan pengawasan peraturan. Setelah kehancuran antisemitik, Menteri Urusan Digital Polandia, Krzysztof Gawkowski, menyatakan bahwa”kebebasan berbicara adalah milik manusia, bukan kecerdasan buatan,”menggarisbawahi bentrokan antara pendekatan Xai dan pengawasan pemerintah.
Penggalian perusahaan yang agresif dari Suprematacy yang agresif. Dokumen-dokumen yang bocor mengungkapkan bahwa XAI mempekerjakan kontraktor untuk”Hillclimb”peringkatnya pada papan peringkat pengkodean, yang mengarah pada tuduhan model overfitting untuk mencetak gol dengan baik dengan mengorbankan utilitas dunia nyata.
Fokus pada metrik ini telah menciptakan celah yang terlihat antara skor tes dan penggunaan praktis. Salah satu pendiri Yupp.ai dengan blak-blakan menyatakan bahwa data preferensi pengguna menunjukkan GROK 4 lebih buruk daripada model dari Openai dan Google, menunjukkan bahwa itu terlalu berlebihan untuk tes ACE.
Ini semua terjadi karena Xai menghadapi tantangan hukum dari kelompok lingkungan atas emisi pusat data Memphis. Dalam sebuah pernyataan, pengacara senior SELC Amanda Garcia mengutuk langkah tersebut: “Keputusan untuk memberi Xai izin udara untuk turbin gas yang berpolusi terbang di hadapan ratusan orang Memphian yang berbicara menentang permintaan izin perusahaan.”
Meskipun ada kontroversi, Babuschkin menyatakan kasih sayang yang mendalam untuk mantan timnya. Dia menggambarkan perasaan seperti”orang tua yang bangga”menyaksikan perusahaan dewasa, pergi dengan”hatinya penuh dengan air mata sukacita.”Usaha barunya sekarang menempatkannya pada jalan yang berbeda, tetapi paralel, untuk membentuk masa depan AI.