Elon Musks AI-firma, Xai, står overfor ny kritikk denne uken. Det nye Grok Imagine Tool er å lage falske nakenvideoer av Taylor Swift. Rapporter viste at verktøyets”krydret”modus oppretter disse videoene selv uten å bli direkte bedt om nakenhet, og pekte på en alvorlig feil i selskapets sikkerhetsvakter.
Funksjonen, tilgjengelig på X Mobile-appen, var Først detaljert i en rapport fra The Verge . Det lar brukere gjøre AI-genererte bilder av kjendiser til korte videoklipp. Når reporter Jess Weatherbed påførte den”krydret”forhåndsinnstillingen på et bilde av Swift, genererte Grok en delvis naken dypfake.
Weatherbed bemerket,”Grok’s Imagine-funksjon på iOS lar deg generere bilder med en tekst, og deretter ta dem raskt til dette videoklippet med fire forhåndsinnsatser:”Skikkelig”Normal”.”Siste hendelse er en del av et mønster av sikkerhetsfeil. src=”https://winbuzzer.com/wp-content/uploads/2025/07/grok-4.jpg”>
“Spicy”Mode Spark på Deepfake, og”vår/hopp. Lag fjerner aktivt alle identifiserte bilder og iverksetter passende tiltak mot kontoene som er ansvarlige for å legge dem ut.”GROKs egen offisielle konto som ble satt sammen. spørsmål, selv om det ikke er garantert. 2025
Dette plasserer Xai i det juridiske eksperter beskriver som et betydelig juridisk minefelt. href=”https://arstechnica.com/tech-policy/2025/08/grok-generates-fake-taylor-wift-nudes-without-being-awsed/”target=”_ blank”rapport fra ars technica
Oppførselen utfordrer direkte etablerte plattformsikkerhetspolitikker og innkommende forskrifter som er designet for å beskytte enkeltpersoner mot slikt digitale misbruk. Likevel, mens Xs sikkerhetsteam jobbet for å inneholde fallet. Elon selv brukte dagen på å hyping GROK på X og oppmuntre til å dele sine”Musk,”en flytting.
et mønster av kontroverser: fra skjevhet og bugs til ødelagte løfter
Denne dyptgående kontroversen er ikke en isolert hendelse, men det siste i en serie etisk og teknisk tabber, for å få en”skrekk”. Meltdown.
AI berømmet Hitler, og fikk et forbud i Tyrkia og skarp kritikk fra europeiske tjenestemenn. Rådfør deg med Elon Musks personlige meninger om X for svar på sensitive emner, i strid med dets”sannhetssøkende”oppdrag.
Videre analyse avslørte GROK 4 ser ut til”overfittet.”Modeller: Openai O3, Claude Opus 4 og Gemini 2.5 Pro. GROK 4 er likt enda mindre enn GROK 3.”Dette antyder at modellen ble opplært til ess-tester, for ikke å være nyttig.
Sikkerhet har også vært en blendende fiasko. Forskere ved NeuralTrust vellykket Jailbroke Grok 4 innen 48 timer etter lanseringen. De brukte sofistikert multi-turn”hvisket”angrep for å bypass sikkerhetsfilter og generere instruksjoner for å gjøre en molotov grops. Kostnader
Disse kaskaderende feilene utspiller seg da Xai forfølger en aggressiv vekststrategi. Spesielt”Hillclimb”Groks rangering på kodende toppliste for å slå rivaliserende antropisk. Bedriftsforhold, inkludert den nylige fratredelsen av X-administrerende direktør Linda Yaccarino.
Strategien for vekst for enhver pris er også å skape konflikt i den virkelige verden.