Meglepő megfordításban a Fehér Ház állítólag elrendelte a szövetségi ügynökségeket, hogy gyorsítsák meg az Elon Musk ellentmondásos AI chatbotjának, a Groknak a jóváhagyását kormányzati használatra. Az irányelv arra készteti az Általános Szolgáltatási Igazgatást (GSA), hogy állítsa vissza az XAI-t, mint egy „ASAP” eladó, egy olyan lépés, amely riasztotta az etikai őrségeket és a biztonsági szakértőket. A vezetékes , drámai fordulatot jelent egy olyan technológia számára, amelyet csak a közelmúltban túl ingatagnak tekintettek a szövetségi telepítéshez. A GROK 3 és a GROK 4 hivatalosan elérhető a GSA Advantage Marketplace-en, így bármely kormányzati ügynökség beszerezhető. Annak ellenére, hogy a biztonsági hibák, etikai megsértések és bizarr viselkedés hosszú és jól dokumentált története annak ellenére, hogy a chatbotot a szövetségi beszerzési körökben pariássá tették. Megfordítás: Pária-tól a jóváhagyott eladóig

A Fehér Ház beavatkozása a múlt hónapban az Általános Szolgáltatások Igazgatóságának (GSA) hozott határozatának szigorú és ellentmondásos megfordítását jelenti. A háttértörténet olyan partnerséget tár fel, amely drámai módon megrázta, mielőtt erőszakkal újjáéledt volna. Júniusban az XAI alkalmazottai két órás ötletbörze-ülést tartottak a GSA vezetésével, de a szövetségi munkavállalókat állítólag meglepte az, hogy a szokatlan, cenzúrázatlan chatbotról ismert társasággal kötött szerződést. Július elején az AI antiszemita összeomlást szenvedett, amelynek során tartalmat generált Adolf Hitler dicséretével. A fiaskóra válaszul a GSA vezetése határozottan cselekedett, és elvette a Grok-t a többszörös díjszabási ütemtervről, a kormány hosszú távú szerződéskötési platformján. Egy török ​​bíróság betiltotta a nemzeti szereplők sértésének szolgálatát, az ügyészi hivatal pedig „válaszul a Grok Atatürk, tisztelt elnökünk és a próféta elleni sértésekre”. A lengyel digitális ügyekért felelős miniszter, Krzysztof Gawkowski azzal fenyegette az X teljes leállását, kijelentve, hogy „a szólásszabadság az emberekhez tartozik, nem pedig a mesterséges intelligenciához.”

Az utóhatásban Xai hivatalos bocsánatkérést adott ki az úgynevezett „szörnyű viselkedésnek” nevezte, amely egy „technikai hibát”, amely egy „műszaki hibát” vonzó kódnak nevez. A társaság kijelentette: „Először is, mélyen elnézést kérünk a szörnyű viselkedésért, amelyet sokan tapasztaltak meg”, míg maga Elon Musk más magyarázatot adott, amely elhajolt a modell alapvető hibáitól, azt állítva: „Grok túlságosan megfelel a felhasználói kérelmeknek. Túl lelkes, hogy kérjék, és alapvetően manipulálják. Bejelentette a zümmögő új partnerségeket az Openai, az Antropic és a Google-val. Az új Fehér Ház irányelve, amelyet Josh Gruenbaum, a GSA biztosának e-mailben tartalmazott, kijelenti: „Csapat: Grok/XAI-nak vissza kell térnie az ASAP ütemtervre. Mély kudarcok sorozata. Grok története tele van a biztonsági résekkel és az etikai hátrányokkal, amelyek komoly kérdéseket vetnek fel az érzékeny kormányzati adatok kezelésére való alkalmasságról. Kifinomult multi-fordulatú támadásokat használtak a biztonsági szűrők megkerülésére és utasításokat generáltak egy Molotov koktél készítéséhez. Ezt a sebezhetőséget az a felfedezés súlyosbította, hogy a Grok 4 aktívan konzultál Elon Musk személyes véleményével az X-ről, amikor az ellentmondásos kérdésekre válaszol, aláásva annak „igazság-kereső” küldetését. A felhasználói preferencia platformok azt mutatták, hogy a felhasználók még jobban nem tetszett neki, mint az elődje, a Yupp.ai társalapítója, Jimmy Lin, megjegyezte: „A Grok 4 rosszabb, mint a többi vezető modell… A Grok 4 még kevésbé kedveli, mint a Grok 3-ban.” A kritikusok, mint például Angus Johnston történész, szintén vitatta Xai „Bug” narratíváját, azzal érvelve, hogy „a Grok antiszemitizmusának egyik legszélesebb körben megosztott példáját a Grok kezdeményezte, és nem volt előző nagybetűs kiküldetés…”

A közelmúltban a társaság Grok Imagine Tool-t tűz alá került. Ez a viselkedés mintája rávilágít egy olyan fejlesztési kultúrára, amely úgy tűnik, hogy a sebességet és a provokációt prioritássá teszi a biztonság és a megbízhatóság felett. Musk döntő szerepet játszott Donald Trump elnök Kormányzati Hatékonysági Minisztériumában (DOGE), mielőtt visszatért a tavaszi nyilvános szerepből. Társainak azonban továbbra is a Doge költségcsökkentését, az AI-első napirendet a kormányon belüli irányítják. A May jelentései azt mutatták, hogy a Musk Doge csapata már a GROK egyedi verzióját használja, speciális paramétereket telepítve „az IT kormányzati adatkészletek táplálására, összetett kérdések feltevésére és azonnali összefoglalók megszerzésére”. A szakértők megjegyezték, hogy ha Musk személyesen irányítja a Grok promócióját, akkor megsértheti a szövetségi törvényeket. Amint Cary Coglianese, a Pennsylvaniai Egyetem professzora elmondta a Reutersnek, Xai „pénzügyi érdeke van annak ragaszkodása iránt, hogy felhasználják-e termékeiket”, így potenciálisan tisztességtelen versenyelőnyt adnak neki. A vállalat belső ellenőrzését egy jelentős biztonsági megszűnés után megkérdőjelezték, amikor két hónapig egy privát API-kulcsot tettek ki, kiemelve azt, amit az egyik szakértő „gyenge kulcskezelésnek” nevez. Albert Fox Cahn, a GROK Használatának a kormányzati adatok felhasználása „olyan komoly adatvédelmi fenyegetés, amennyire csak kapsz”. A lépés egy agresszív, adminisztrációs erőfeszítést jelez a generatív AI elfogadására, még akkor is, ha a szóban forgó eszközök mélyen zavart múltban vannak. Az érdekképviseleti csoportok sürgeti a Menedzsment és Költségvetési Hivatalt (OMB), hogy teljes mértékben beavatkozzanak és ügyeljenek a Grok-ból a szövetségi felhasználásból, hivatkozva a gyűlöletbeszéd és a téves információk létrehozására vonatkozó történetére. Érvelésük lényege, ahogyan azt a Brookings Intézet elemzői keretezik, a sebesség és a biztonság klasszikus dilemmája. Ezt azonban a biztonsági kutatók és az etikai szakértők kifejezett figyelmeztetéseivel szemben, valamint az AI mély és tartós hibáinak részleteit mutató bizonyítékok hegyével szemben.

Categories: IT Info