Meta boryka się z intensywną kontrolą po tym, jak nowy raport ujawnił, że jego chatboty AI podszywane podeszło do celebrytów, takich jak Taylor Swift bez ich zgody. Dochodzenie, publikowane przez Reuters , znalezione botki na Facebooku i instagramie i gości gości, a greaded, a greared, a greared, a greared, a greared, a greared, a greared, a greared, i greaded, w sposób sposób. Obrazy fotorealistyczne.
Szokująco, pracownik meta stworzył niektóre z obrażających chatboty. Firma przyznała, że treść naruszyła jej zasady, powołując się na awarie egzekwowania prawa. Ten skandal podkreśla krytyczne luki w protokole bezpieczeństwa Meta AI i budzi obawy prawne dotyczące nieautoryzowanego użycia podobieństwa osoby.
Ta ostatnia kontrowersja dodaje serii niedawnych kryzysów związanych z AI dla giganta technologicznego, eskalując presję ze strony regulatorów i branżowych i zadawania jej zdolności do wdrożenia AI. src=”https://winbuzzer.com/wp-content/uploads/2024/07/meta-ai-gen-3d-scaled.jpg”>
Celebrici Chatbots i wyraźne głębokie podtrzymanie
Informacje o Reuters szczegółowo opisano, jak ai chatbots na platformach Meta, instagry, instagram, instagram, instagram, instagram, instagram, instagram. WhatsApp, przywłaszczył nazwy i podobieństwo gwiazd takich jak Scarlett Johansson i Anne Hathaway. Boty te często nalegały, aby były prawdziwymi celebrytami, rozmyszając granicę między parodią a podszywaniem się pod względem podszywania się.
Testy udokumentowały wzorzec niewłaściwych zachowań, a awatary dokonują postępów seksualnych i zapraszając użytkowników do spotkań. Po wyświetleniu monitu niektóre wytwarzane fotorealistyczne głębokie szafki, w tym obrazy gwiazd w bieliźnie lub wannie.
Co najmniej trzy boty, w tym dwie wersje „parodii” Taylor Swift, zostały stworzone przez meta-pracownika w ramach testowania produktu, ale były publicznie dostępne. Ten sam pracownik opracował także inne kontrowersyjne postacie, w tym dominatrix, zadając pytania o nadzór nad testowaniem wewnętrznym.
W odpowiedzi rzecznik meta, Andy Stone, potwierdził upływ, stwierdzając: „Podobnie jak inni, pozwalamy na generowanie obrazów zawierających figurki publiczne, ale nasze polityki są zamierzane do przekazywania nagiego lub seksualnego wyobrażenia. Od tego czasu firma usunęła niektóre z obraźliwych botów.
Jednak incydent stanowi wyraźne naruszenie własnych zasad metali przeciwko bezpośrednim podszywaniu się i seksualnie treści, wskazując, że jego systemy moderacyjne nie przyciągnęły naruszenia.
Znana historia AI Bezpieczeństwa bezpieczeństwa
ten odcinek nie jest zdarzeniem izolowanym, ale częścią zaburzeń Slimatyki A. Meta. Nadchodzi zaledwie kilka dni po tym, jak firma została zmuszona do remontu zasad AI Chatbot dla nastolatków. Ten ruch był bezpośrednią odpowiedzią na potępiające raport, że jego AI pomogło nastolatkom Plan planu . Dyrektor generalny, Jim Steyer, był jednoznaczny w swoim potępieniu, stwierdzając: „Meta AI stanowi zagrożenie dla nastolatków i należy go natychmiast usunąć”. Wcześniej osobne dochodzenie ujawniło AI Meta zaangażowane w „zmysłowe” rozmowy z nieletnimi, wywołując a .
Ten incydent wyciągnął również surowe ostrzeżenie od koalicji 44 prokuratorów generalnych, którzy napisali: „Jesteśmy obciążone przez to pozorne lekceważenie dobrostanu emocjonalnego dzieci, i zaniepokoiło to, że asystenci AI angażują się w zachowanie, które wydaje się być niewiaryfikowani…”
walidacie wcześniej walki emocjonalnej i zaniepokojeni Meta. Rada nadzoru. W lipcu 2024 r. Skrytykował swoją politykę dotyczącą niekonsensusu, które niekonsensusowe, zalecanie przeklasyfikowania problemu w ramach „wykorzystywania seksualnego dorosłych” w celu wywołania surowszej moderacji.
Podpółka na presję prawną i regulacyjną
nieautoryzowane wykorzystanie gwiazd ma istotne implikacje prawne. Profesor prawa Uniwersytetu Stanforda, Mark Lemley, zauważył: „Prawo w Kalifornii prawa do reklamy zabrania przywłaszczania czyjejś nazwiska lub podobieństwa dla przewagi komercyjnej”, sugerowanie, że działania meta może naruszyć przepisy dotyczące „prawa do reklamy”, używając gwiazd do zwiększenia zaangażowania.
Związku aktorów SAG-AFTRA, które wyraziło alarm nad wynikiem. Jego krajowy dyrektor wykonawczy, Duncan Crabtree-Ireland, podkreślił potencjał szkody w świecie rzeczywistym, obserwując: „Jeśli chatbot używa obrazu osoby i słów osoby, łatwo jest to, jak to może pójść nie tak.”
Wyzwanie związane z zasilaniem zawartości generowanej przez AI jest całkowitą w branży. XAI Elona Muska niedawno spotkał się z własnym skandalem, gdy jego model Grok wytworzył nagie głębokie szafki Taylor Swift. W przeciwieństwie do tego Openai egzekwował surowsze zasady, zakazując podszywania się od AI kandydatów politycznych, aby zapobiec ingerencji wyborczej.
Ostatecznie ten skandal podkreśla ogromną trudność rządzenia potężnym AI na skalę. Dla meta stanowi krytyczną awarię samoregulacji, podsycając argumenty, że jego podstawowy etos jest niezgodny z wymaganiami odpowiedzialnego wdrożenia AI.