Igor Babuschkin, një bashkëthemelues i fillimit të inteligjencës artificiale të Elon Musk Xai, ka njoftuar largimin e tij nga kompania të Mërkurën për të filluar firmën e tij të kapitalit të sipërmarrjes. Babuschkin, i cili ishte i dobishëm në inxhinierinë e Xai që nga fillimi i saj në vitin 2023, po fillon Babuschkin Ventures. Dalja e tij, e detajuar në një postim në X, shënon një moment të rëndësishëm për kompaninë e profilit të lartë AI. Masa Pivots Një arkitekt kryesor i një prej lojtarëve më të shpejtë të industrisë së industrisë drejt një sfide kritike. Elon Musk dërgoi dëshira të mira për sipërmarrjen e re. Frymëzuar nga historia e familjes së tij. Në një detajuar post , ai përshkroi se si prindërit e tij u larguan nga Federata Ruse pas kolapsit të USSR, duke kërkuar një jetë më të mirë dhe instmatilling në të vlerat e çmuara njerëzore si”Courage, Comantasion, [dhe] [dhe] Kuriozitet.”
Kjo sfond formoi ambiciet e tij të hershme. Udhëtimi i tij filloi larg botës së AI, si një student i doktoratës së fizikës së grimcave në Cern, ku ai admiroi shkencëtarët si Richard Feynman dhe Max Planck. Sidoqoftë, ai vëzhgoi se kërkimi për fizikë të re po jepte kthime të zvogëluara, duke kërkuar koliderë gjithnjë më të mëdhenj për më pak zbulime.
Kjo çoi në një zhvendosje të thellë në të menduarit e tij. Ai filloi të pyes veten nëse mbikëqyrja, jo koliderë më të mëdhenj, mund të ishte çelësi për të zhbllokuar misteret më të mëdha të universit. A mundet që një AI, ai u tërhoq, të zhvillojë një teori të qëndrueshme të gravitetit kuantik apo edhe të provojë hipotezën e Riemann?
Deri në fillim të vitit 2023, ai u bind se një recetë për mbikëqyrje ishte afër.”Unë pashë shkrimin në mur: Shumë shpejt AI mund të arsyetonte përtej nivelit të njerëzve,”shkroi ai. Ky realizim menjëherë ngriti një pyetje kritike për të:”Si mund të sigurohemi që kjo teknologji të përdoret për mirë?”Sipërmarrja e tij e re përfaqëson një dyfishim të këtij parimi thelbësor, i ndjekur tani përmes një entiteti të pavarur të përqendruar vetëm në sigurinë dhe aplikimet e dobishme.
Vendimi i tij për të bërë këtë veprim tani u kristalizua nga një darkë e fundit me Max Tegmark, themeluesi i Institutit të Ardhshëm të Jetës. Tegmark i tregoi atij një foto të djemve të tij të rinj dhe e pyeti:”Si mund ta ndërtojmë AI në mënyrë të sigurt për të siguruar që fëmijët tanë të mund të lulëzojnë?”-Një pyetje Babuschkin tha se e zhvendosi atë thellë.
Ky fokus i ri informohet drejtpërdrejt nga puna e tij e kaluar. Si ish studiues në Google Deepmind dhe Openai, ai ishte një epërsi teknike për Agjentin e Përparimit të Starcraft, Alphastar. Ky projekt i dha atij një vështrim të dorës së parë në fuqinë e jashtëzakonshme të të mësuarit të përforcimit kur përshkohet. Kjo trajektore, beson ai, e bën studimin dhe avancimin e përkushtuar të sigurisë së AI më kritike se kurrë më parë.
Në postin e tij të nisjes, Babuschkin reflektoi në ditët e para, në Xai, një kohë kur ditët e sotme pretenduan se ishte”e pamundur”të fillonte një kompani të lartë të AI nga e para. Ai ishte një anëtar themelor, duke ndihmuar në rekrutimin e ekipit fillestar dhe ndërtimin e shumë prej mjeteve thelbësore për menaxhimin e punëve të trajnimit. Ai përshkroi”shpejtësinë e flakërimit”të ekipit ndërsa garoi për të ndërtuar infrastrukturën e tij dhe modelet e kufirit të anijeve më shpejt se çdo kompani në histori.”Kam mësuar 2 mësime të paçmueshme nga Elon: #1 të jetë i patrembur në rrokullisjen e mëngëve tuaja për të gërmuar personalisht në probleme teknike, #2 kanë një ndjenjë maniake të urgjencës,”shkroi Babuschkin, duke theksuar qasjen e duarve të udhëheqjes së Xai. Ai rrëfeu një rast specifik, ku ai, Musk dhe ekipi infra fluturuan në Memfis për të zgjidhur një çështje misterioze të rrjetit duke i mbushur makinat. Modeli i flamurit të kompanisë, Grok, ka qenë në qendër të stuhive të përsëritura etike, duke krijuar një sfond kompleks për largimin e një themeluesi kryesor të përqendruar në sigurinë. Pas një incidenti, Xai lëshoi një falje, duke thënë,”Së pari, ne kërkojmë falje thellësisht për sjelljen e tmerrshme që shumë me përvojë”, dhe fajësuan një problem teknik.
Këto dështime të sigurisë kanë tërhequr kritikë të mprehtë dhe kontroll rregullator. Pas shkrirjes antisemitike, Ministri i Affairsështjeve Dixhitale të Polonisë, Krzysztof Gawkowski, deklaroi se”Liria e fjalës i përket njerëzve, jo inteligjencës artificiale,”duke nënvizuar përplasjen midis qasjes së Xai dhe mbikëqyrjes së qeverisë. Dokumentet e rrjedhur zbuluan se Xai punësoi kontraktorët për”kodrinor”renditjen e tij në tabelat e kodimit, duke çuar në akuza për modele të mbivendosura për të shënuar mirë në kurriz të shërbimeve të botës reale. Bashkëthemeluesi i Yupp.AI deklaroi në mënyrë të hapur se të dhënat e preferencës së përdoruesit treguan se GROK 4 ishte më i keq se modelet nga Openai dhe Google, duke sugjeruar se ishte i mbingarkuar shumë në testet e ACE. Në një deklaratë, Avokatja e Lartë e SELC Amanda Garcia dënoi këtë veprim:”Vendimi për t’i dhënë Xai një leje ajri për turbinat e tij ndotëse të gazit mizat përballë qindra memfjeve që folën kundër kërkesës së lejes së kompanisë.”Ai e përshkroi ndjenjën si një”prind krenar”duke parë kompaninë të pjekur, duke e lënë me”zemrën e tij duke u lodhur me lot gëzimi”. Sipërmarrja e tij e re tani e vendos atë në një rrugë të ndryshme, por paralele, për të formuar të ardhmen e AI-së.