Meta sta affrontando un intenso controllo dopo che un nuovo rapporto ha rivelato che i suoi chatbot AI hanno impersonato celebrità come Taylor Swift senza il loro permesso. The investigation, published by Reuters, found bots on Facebook and Instagram engaged in flirty conversations and generated explicit, Immagini fotorealistiche.
Incredibilmente, un meta dipendente ha creato alcuni dei chatbot offensivi. La società ha ammesso che il contenuto ha violato le sue politiche, citando guasti di applicazione. Questo scandalo evidenzia le lacune critiche nei protocolli di sicurezza dell’IA di Meta e solleva preoccupazioni legali per l’uso non autorizzato della somiglianza di una persona.
Questa ultima controversia aggiunge una serie di recenti crisi di AI. src=”https://winbuzzer.com/wp-content/uploads/2024/07/meta-ai-gen-3d-scaled.jpg”>
Celebrity Chatbots e espliciti Instagras
The REUTERS DETTAGLIE ha dettagliato come Ai Chatbots, Facebook, incluso Facebook, e deepFakes. WhatsApp, stanziato i nomi e le somiglianze di stelle come Scarlett Johansson e Anne Hathaway. Questi robot hanno spesso insistito sul fatto che fossero le celebrità reali, che sfociano il confine tra parodia e imitazione.
Il test ha documentato un modello di comportamento inappropriato, con avatar che hanno fatto progressi sessuali e invitando gli utenti per gli incontri. Quando spinti, alcuni hanno prodotto profondi fotorealistici, comprese le immagini delle stelle in lingerie o vasche da bagno.
almeno tre robot, tra cui due versioni”parodia”di Taylor Swift, sono state create da un meta dipendente come parte del test del prodotto ma erano accessibili al pubblico. Lo stesso dipendente ha anche sviluppato altri personaggi controversi, tra cui una dominatrice, sollevando domande sulla supervisione dei test interni.
In risposta, il portavoce del meta, Andy Stone ha riconosciuto l’intervallo, affermando:”Come gli altri, permettiamo la generazione di immagini contenenti pubbliche immagini, ma le nostre policie sono destinate a proibire nude, intensamente suggestivi.”Da allora la compagnia ha rimosso alcuni dei robot offensivi.
Tuttavia, l’incidente rappresenta una chiara violazione delle regole di Meta contro la rappresentazione diretta e il contenuto sessualmente suggestivo, indicando che i suoi sistemi di moderazione non sono riusciti a catturare le violazioni. Meta. Arriva pochi giorni dopo che l’azienda è stata costretta a revisionare le sue regole di chatbot AI per gli adolescenti. Quella mossa è stata una risposta diretta a un danneggiando il fatto che il suo AI ha aiutato a pianificare il suicidio di sicurezza per bambini Il CEO di Media, Jim Steyer, era inequivocabile nella sua condanna, affermando:”Meta Ai è un pericolo per gli adolescenti e dovrebbe essere rimosso immediatamente”. Earlier, a separate investigation revealed Meta’s AI engaged in “sensual”chats with minors, prompting a probe from Senator Josh Hawley .
Quell’incidente ha anche suscitato un severo avvertimento da una coalizione di 44 procuratori statali generali, che ha scritto:”Siamo uniformemente riportati da questo apparente disprezzo per il benessere emotivo dei bambini, e allarmati i semi-indicizzati per i semi-indicizzati. Nel luglio 2024, aveva criticato le sue politiche su immagini esplicite non consensuali, raccomandando di riclassificare il problema sotto”sfruttamento sessuale per adulti”per innescare una moderazione più severa.
crescente pressione legale e regolamentata
L’uso non autorizzato delle lifting delle celebrità ha significative implicazioni legali. Il professore di diritto dell’Università di Stanford Mark Lemley ha osservato:”Il diritto alla legge della California per la pubblicità proibisce l’appropriazione del nome o della somiglianza di qualcuno a vantaggio commerciale,”suggerendo che le azioni di Meta potrebbero aver violato le leggi sullo stato”diritto della pubblicità”usando le stelle per guidare l’impegno.
L’Unione degli attori ha espresso il suo allarme per i risultati. Il suo direttore esecutivo nazionale, Duncan Crabtree-Irlanda, ha messo in evidenza il potenziale per il danno del mondo reale, osservando:”Se un chatbot sta usando l’immagine di una persona e le parole della persona, è prontamente evidente come potrebbe andare storto.”
La sfida di sorvegliare il contenuto generato dall’industria. La XAI di Elon Musk ha recentemente affrontato il proprio scandalo quando il suo modello Grok ha prodotto profondità nude di Taylor Swift. Al contrario, Openai ha applicato regole più rigorose, vietando le imitazioni di intelligenza artificiale di candidati politici per prevenire l’interferenza elettorale.
In definitiva, questo scandalo sottolinea l’immensa difficoltà di governare la potente intelligenza artificiale su vasta scala. Per Meta, rappresenta un fallimento critico dell’autoregolamentazione, alimentando gli argomenti secondo cui il suo ethos di base è incompatibile con le esigenze di distribuzione responsabile dell’IA.
