firma AI a lui Elon Musk, Xai, se confruntă cu o nouă critică în această săptămână. Noul său instrument Grok Imagine face ca videoclipurile false nude ale lui Taylor Swift. Rapoartele au arătat că modul „picant” al instrumentului creează aceste videoclipuri chiar și fără a fi solicitate în mod direct nuditate, indicând un defect grav în gardienii de siguranță ai companiei.
Funcția, disponibilă pe aplicația Mobilă X, a fost Mai întâi detaliat într-un raport al Verge . Permite utilizatorilor să transforme imaginile generate de AI ale celebrităților în clipuri video scurte. Când reporterul Jess Weatherbed a aplicat presetarea „picantă” pe o fotografie a lui Swift, Grok a generat o parțial nud Deepfake.
Weatherbed a menționat: „Funcția Imagine a lui Grok pe iOS vă permite să generați imagini cu un text de text, atunci le transformați rapid în clipuri video cu patru presetări:„ personalizat, „normal” a unui model de eșecuri de siguranță. src=”https://winbuzzer.com/wp-content/uploads/2025/07/grok-4.jpg”>
„picant”mod”, scânteie profunzime, outrage
SWIFT și pe larg condamnarea echipei sale, echipele de securitate. are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them.”Compounding the issue, Grok’s own official account cited The Verge’s reporting while confirming that its flawed design could indeed trigger such outputs.
Yes, The Verge’s tests confirm that Grok Imagine’s “Spicy”preset generated partially nude videos of Taylor Swift without explicit nudity prompturi, deși nu este garantat. 2025
Acest lucru plasează XAI în ceea ce experții legali descriu ca un câmp minier legal semnificativ. href=”https://arstechnica.com/tech-policy/2025/08/grok-generates-fake-taylor-swift-nudes-without-being-asked/”Target=”_ Blank”> Raport de la Ars Technica , momentul este deosebit de sărac pentru Xai. Faceți față consecințelor legale dacă rezultatele lui Grok nu sunt corectate, totuși.”
Comportamentul contestă direct în mod direct politicile de siguranță ale platformei stabilite și reglementările de intrare concepute pentru a proteja persoanele de astfel de abuzuri digitale. Cu toate acestea, în timp ce echipa de siguranță a lui X a lucrat pentru a conține căderea, Elon Musk însuși a petrecut ziua în care a imaginat Grok Imagine pe X și pentru a încuraja utilizatorii să partajeze„ creațiile lor “, o mișcare pe care o contribuie cu acțiune cu acțiune a sewery-ului în creștere. [ Meltdown.
AI l-a lăudat pe Hitler, determinând o interdicție în Turcia și critici ascuțite din partea oficialilor europeni. Consultați opiniile personale ale lui Elon Musk cu privire la X pentru răspunsuri la subiecte sensibile, contrazicând misiunea sa „în căutarea adevărului”.
Analiza ulterioară a dezvăluit Grok 4 apare „suprafiat”. O3, Claude Opus 4 și Gemeni 2.5 Pro. Grok 4 este plăcut chiar mai puțin decât Grok 3.”Acest lucru sugerează că modelul a fost instruit la testele ACE, ca să nu fie util.
Securitatea a fost, de asemenea, un eșec evident. Cercetătorii de la Neurrust cu succes Jailbroke Grok 4 în 48 de ore de la lansare. Au folosit atacuri sofisticate cu mai multe turnuri „șoptite” pentru a ocoli filtrele de siguranță și a genera instrucțiuni pentru realizarea unui cocktail molotov:
Înaltul s-a scăzut: creșterea. Costuri
Aceste eșecuri în cascadă se desfășoară, deoarece Xai urmărește o strategie de creștere agresivă. Contractorii pentru a „face clasamentul lui Grok în mod specific pentru a-l face pe Rival Anthropic Pe fondul majorării corporative, inclusiv demisia recentă a CEO-ului X Linda Yaccarino.
Strategia de creștere cu orice preț este, de asemenea, crearea de conflicte reale.
