Meta se confruntă cu o examinare intensă, după ce un nou raport a dezvăluit celebritățile sale de chatbots AI, precum Taylor Swift, fără permisiunea lor. Investigația, Publicat de Reuters , găsite bots pe Facebook și Instagram în Imagini fotorealiste.
șocant, un angajat meta a creat unele dintre chatbot-urile jignitoare. Compania a recunoscut că conținutul și-a încălcat politicile, invocând eșecuri de aplicare. This scandal highlights critical gaps in Meta’s AI safety protocols and raises legal concerns over the unauthorized use of a person’s likeness.
This latest controversy adds to a string of recent AI-related crises for the tech giant, escalating pressure from regulators and industry watchdogs and questioning its ability to deploy AI responsibly.
Celebrity Chatbots and Explicit Deepfakes
The Reuters investigation detailed how AI chatbots on Meta’s platforms, including Facebook, Instagram, and WhatsApp, și-a însușit numele și asemănările vedetelor precum Scarlett Johansson și Anne Hathaway. Acești roboți au insistat adesea că sunt adevăratele celebrități, estompând linia dintre parodie și impersonare.
Testarea a documentat un model de comportament necorespunzător, avatarii făcând progrese sexuale și invită utilizatorii pentru întâlniri. Când li s-a solicitat, unele profunde fotorealiste produse, inclusiv imagini cu stelele în lenjerie sau căzi.
Cel puțin trei roboți, inclusiv două versiuni „parodiale” ale lui Taylor Swift, au fost create de un meta angajat ca parte a testării produsului, dar au fost accesibile public. Același angajat a dezvoltat și alte personaje controversate, inclusiv un dominatrix, ridicând întrebări cu privire la supravegherea testării interne.
ca răspuns, purtătorul de cuvânt al Meta a recunoscut că a recunoscut că „ca și altele, permitem generarea de imagini care conțin persoane publice, dar politicile noastre sunt intenționate să prohibit nud, să fie intenționate în mod fizic, dar politicile noastre sunt intenționate să prohibit, să nu se facă imagini publice sau să sugereze sexual.” De atunci, compania a eliminat unele dintre roboții jignitori.
Cu toate acestea, incidentul reprezintă o încălcare clară a regulilor proprii ale meta-ului împotriva impersonării directe și a conținutului sugestiv sexual, ceea ce indică sistemele sale de moderație nu au reușit să prindă încălcările.
O poveste familiară a eșecurilor de siguranță AI
Meta. Vine la doar câteva zile după ce compania a fost forțată să-și revizuiască regulile de chatbot AI pentru adolescenți. Această mișcare a fost un răspuns direct la un Damning Raport că AI a ajutat tevara de siguranță a conturilor de comandă a comunelor de siguranță
CEO-ul, Jim Steyer, a fost fără echivoc în condamnarea sa, afirmând: „Meta Ai este un pericol pentru adolescenți și ar trebui să fie eliminat imediat”. Mai devreme, o anchetă separată a dezvăluit AI-ul Meta angajat în chat-uri „senzuale” cu minori, ceea ce a determinat un Hawley.
That incident also drew a stern warning from a coalition of 44 state attorneys general, who wrote, “We are uniformly revolted by this apparent disregard for children’s emotional well-being, and alarmed that AI Assistants are engaging in conduct that appears to be prohibited…”
The crisis validates earlier warnings from Meta’s own semi-independent Oversight Bord. În iulie 2024, și-a criticat politicile cu privire la imagini explicite neconsensibile, recomandând reclasificarea problemei în cadrul „exploatării sexuale pentru adulți” pentru a declanșa o moderație mai strictă.
creșterea presiunii legale și de reglementare
Utilizarea neautorizată a pazărilor de celebritate are implicații de juridic semnificative. Profesorul de drept al Universității Stanford, Mark Lemley, a menționat că „Dreptul de drept publicitar din California interzice însușirea numelui sau asemănării cuiva pentru avantajul comercial”, sugerarea că acțiunile Meta ar fi putut încălca legile privind „dreptul publicității” ale statului, folosind stelele pentru a-și conduce angajamentul. Directorul său executiv național, Duncan Crabtree-Ireland, a subliniat potențialul de vătămare din lumea reală, observând: „Dacă un chatbot folosește imaginea unei persoane și cuvintele persoanei, este ușor de evident cum ar putea merge greșit. Xai de la Elon Musk s-a confruntat recent cu propriul său scandal când modelul său Grok a produs Deep-uri nude ale lui Taylor Swift. În schimb, Openai a aplicat reguli mai stricte, interzicând impersonările AI ale candidaților politici pentru a preveni interferențele electorale.
În cele din urmă, acest scandal subliniază imensa dificultate de a guverna AI-ul puternic la scară. Pentru meta, reprezintă un eșec critic al autoreglementării, alimentând argumente conform cărora etosul său principal este incompatibil cu cerințele implementării AI responsabile.