Yllättävässä käännöksessä Valkoinen talo on ilmoittanut määränneen liittovaltion virastot nopeuttamaan Elon Muskin kiistanalaisen AI-chatbotin, Grokin, hyväksyntää hallituksen käyttöön. Direktiivi pakottaa General Services Administrationin (GSA) palauttamaan Xai myyjänä”ASAP”, liikkeeksi, joka on huolestunut etiikan vahtikoirista ja tietoturvaasiantuntijoista.
Vain muutaman päivän kuluttua siitä, kun Xai käynnisti oletettavasti parantuneen GROK 4: n, NeuralTrustin turvallisuustutkijat ovat onnistuneesti Jailbroke malli 48 tunnin sisällä. He käyttivät hienostuneita monikuormitushyökkäyksiä ohittaakseen sen turvasuodattimet ja generoimaan ohjeita Molotov-cocktailin tekemiseksi. Tätä haavoittuvuutta yhdisti löytö, jonka mukaan Grok 4 kuulee aktiivisesti Elon Muskin henkilökohtaisia mielipiteitä X: stä vastaamalla kiistanalaisiin kysymyksiin, heikentäen sen”totuutta etsivää”tehtävää. Käyttäjä-etuusalustat osoittivat käyttäjien pitävän siitä jopa enemmän kuin edeltäjänsä, kun Yupp.ai-perustaja Jimmy Lin huomautti:”Grok 4 on huonompi kuin muut johtavat mallit… Grok 4 on jopa vähemmän kuin Grok 3.”Kriitikot, kuten historioitsija Angus Johnston, kiistivät myös Xaiin”bug”-kertomuksen, väittäen, että “Grok aloitti yhden yleisimmin jaetuista esimerkeistä Grok-antisemitismista, jolla ei ole aikaisempaa bigoted-lähettämistä säieessä.”Tämä käyttäytymismalli korostaa kehityskulttuuria, joka näyttää priorisoivan nopeuden ja provokaation turvallisuuden ja luotettavuuden suhteen. Muskilla oli ratkaiseva rooli presidentti Donald Trumpin hallituksen tehokkuusministeriössä (DOGE) ennen kuin hän astui takaisin julkisesta roolista tänä keväänä. Hänen kumppaninsa jatkaa kuitenkin Dogen kustannusten leikkaamista, AI-ensimmäinen asialista hallitukselta. Toukokuun raportit paljastivat, että Muskin Doge-tiimi käytti jo räätälöityjä Grok-versiota, asentamalla erityisiä parametreja”syöttämällä sen hallituksen tietojoukkoja, esittämään monimutkaisia kysymyksiä ja saadakseen välittömiä yhteenvetoja.”Asiantuntijat totesivat, että jos Musk ohjasi henkilökohtaisesti Grokin ylennystä, se voisi rikkoa liittovaltion lakeja. Kuten Pennsylvanian yliopiston professori Cary Coglianese kertoi Reutersille, XAI: lla “on taloudellista kiinnostusta vaatia heidän tuotteensa käyttämistä”, mikä antaa sille mahdollisesti epäreilun kilpailuetua.
tämän määrittelemättömän käytön turvallisuusvaikutukset ovat syvällisiä, etenkin XAI: n oman täplikäs ennätys. Yrityksen sisäinen valvonta on kyseenalaistettu merkittävän turvallisuusvaikutuksen seurauksena, jossa yksityinen API-avain paljastettiin kahden kuukauden ajan korostaen sitä, mitä yksi asiantuntija kutsui “heikko avainhallinta.”Albert Fox Cahn valvontateknologian valvontaprojektista, nimeltään Grokin käyttö valtion tietoihin “yhtä vakava tietosuojauhka kuin saat.”Muutto merkitsee aggressiivista, hallinnon laajuista pyrkimystä omaksua generatiivista AI: tä, vaikka kyseisillä työkaluilla on syvästi levoton menneisyys.
vartiosoitteet herättävät hälytyksen nopeasti seuranneesta hyväksynnästä
Direktiivin nopeaan Grokiin on saanut välitöntä ja terävää tuomitsemista hallituksen valvonnasta. Edustajaryhmät kehottavat johtamis-ja budjettitoimistoa (OMB) puuttua kokonaan liittovaltion käytöstä kokonaan, vedoten sen historiaan vihapuheen ja väärien tietojen tuottamisesta. Heidän väitteensä, kuten Brookings-laitoksen analyytikot ovat laatineet, on klassinen nopeuden dilemma verrattuna turvallisuuteen. Se tekee niin kuitenkin turvallisuustutkijoiden ja etiikan asiantuntijoiden nimenomaisista varoituksista ja todisteiden vuorelle, jossa kerrotaan AI: n syvällisistä ja jatkuvista puutteista.