Elon Musks AI-företag, XAI, står inför ny kritik den här veckan. Det nya Grok Imagine-verktyget gör falska nakna videor av Taylor Swift. Rapporter visade att verktygets”kryddig”-läge skapar dessa videor även utan att bli direkt ombedda nakenhet, som pekar på en allvarlig brist i företagets säkerhetsvakter.
Funktionen, tillgänglig på X-mobilappen, var först detaljerad i en rapport från The Verge . Det gör det möjligt för användare att förvandla AI-genererade bilder av kändisar till korta videoklipp. När reportern Jess Weatherbädd applicerade den”kryddig”förinställningen på ett foto av Swift, genererade Grok en delvis naken Deepfake.
väderbädd noterade,”grok’s Imagine Feature på iOS låter dig generera bilder med en textprompt, sedan förvandla dem snabbt till videoklipp med fyra förinställningar:”Anpassade”,”normalt”,”Fun”och”Spicy”,”Highlighting of the Evene with the Ease with the Enace med den senaste Incidenten. En del av ett mönster av säkerhetsfel. src=”https://winbuzzer.com/wp-content/uploads/2025/07/grok-4 Team tar aktivt bort alla identifierade bilder och vidtar lämpliga åtgärder mot de konton som är ansvariga för att publicera dem.”Föreningen av frågan, Groks eget officiella konto citerade Verges rapportering samtidigt som de bekräftar att dess felaktiga design verkligen kan utlösa sådana utgångar.
ja, Verges test bekräftar den grok Imagine’s”spicy”-prelat. Rede, även om det inte är garanterat. 2025
Detta placerar XAI i vad juridiska experter beskriver som ett betydande juridiskt minfält. href=”https://arstechnica.com/tech-policy/2025/08/grok-generes-fake-taylor-swift-nudes-without-being-asked/”Target=”_ blank”> Rapport från ARS Technica , Timing är särskilt dåligt för xai. Konsekvenser om GROK: s resultat inte är korrigerade.
Ett mönster av kontroverser: från partiskhet och buggar till trasiga löften
Denna djupgående kontrovers är inte en isolerad händelse utan den senaste i en serie etiska och tekniska missförstånd för XAI: s grok. Meltdown.
AI berömde Hitler, vilket fick ett förbud i Turkiet och skarp kritik från europeiska tjänstemän om ursäkt för evenemanget och tillskrivade misslyckandet med en nybörjare. Konstruerad för att konsultera Elon Musks personliga åsikter om X för svar på känsliga ämnen, motsäger sitt”sanningssökande”uppdrag.
Ytterligare analys avslöjade grok 4 verkar”överfyllda.”Modeller: OpenAI O3, Claude Opus 4 och Gemini 2.5 Pro. Grok 4 är gillad ännu mindre än Grok 3.”Detta antyder att modellen var utbildad till ACE-tester, för att inte vara användbar.
Säkerhet har också varit ett bländande misslyckande. Forskare på neuralTrust framgångsrikt jailbroke grok 4 inom 48 timmar efter lanseringen. Target=”_ Blank”> Sofistikerad multi-turn”viskade”attacker för att kringgå säkerhetsfilter och generera instruktioner för att göra en Molotov-cocktail.
High-Stakes Gamble: Tillväxt till varje pris
dessa kaskadfel är avvecklade som xai en aggression en aggression för att göra det i företaget. Ny finansiering. Företagets strategi för att projicera dominans.
Intern oro har också plågat företaget”Projekt Skippy”, ett initiativ för att utbilda grok på mänskliga känslor med hjälp av anställdas ansiktsdata, utlöste en betydande backlash över integritet och samtycke. Att skapa verklig konflikt.
