W następstwie ostrej reakcji w Internecie Meta usunęła kilka kont sztucznej inteligencji udających prawdziwe osoby na Facebooku i Instagramie.
W ostatnich tygodniach użytkownicy odkryli wiele profili zawierających różne osobiste historie — niektóre nawiązujące do rasizmu i tożsamości seksualnej i opublikowała obrazy wygenerowane przez sztuczną inteligencję, które pokazywały widoczne błędy i zniekształcone szczegóły. Szybkie usunięcie nastąpiło po pytaniach o to, w jaki sposób te sztuczne osoby mogą wprowadzać w błąd opinię publiczną, podsycać spam, a nawet manipulować emocjami na dużą skalę.
Kontrowersje zaczęły się, gdy Connor Hayes, wiceprezes Meta ds. generatywnej sztucznej inteligencji, opisane do Financial Times wizję organizacji zakładającą istnienie na platformach sztucznych postaci w sposób podobny do kont prowadzonych przez ludzi:
„Będą mieli biografie i zdjęcia profilowe oraz będą mogli generować i udostępniać treści obsługiwane przez sztuczną inteligencję na platformie… to jest dokąd to wszystko zmierza.”
Ten komentarz wywołał eksplozję ciekawości użytkowników – a w końcu alarm – gdy stało się jasne, że Meta eksperymentowała już z co najmniej kilkoma z tych syntetycznych profili.
p>
Coraz więcej dowodów na występowanie zaburzeń sztucznej inteligencji na Facebooku
Równolegle w przypadku osób napędzanych sztuczną inteligencją użytkownicy Facebooka odnotowują powszechny wzrost zjawiska, które krytycy nazywają „zaburzeniami sztucznej inteligencji”.”Termin ten luźno opisuje często dziwaczne lub niskiej jakości obrazy wytwarzane przez technologię generatywną.
Zdjęcia oznaczone jako „Shrimp Jesus” krążyły w kanałach informacyjnych, a strony takie jak „Historia dla wszystkich” i „Amy Couch” zamieszczały zdjęcia, które na pierwszy rzut oka wydawały się autentyczne, ale zawierały dziwne anomalie.
[ treści osadzone]
Naukowcy z uniwersytetów Stanford i Georgetown wcześniej zauważył , że wiele obrazów AI na Facebooku ma łącznie zgromadziły „setki milionów odsłon i ekspozycji”, a wielu widzów w ogóle nie zdawało sobie sprawy, że ogląda treści generowane komputerowo.
Ben Decker, dyrektor generalny grupy zajmującej się analizą zagrożeń Memetica, powiedział CNN , że „spamerzy i oszuści często wcześnie wdrażają nowe technologie”, co sugeruje, że algorytmiczne wymuszanie przez Facebooka nowych lub polecanych materiałów może być łatwo wykorzystane.
„Liv” Persona wywołuje burzę
Jedna z najwybitniejszych użytkowników sztucznej inteligencji stworzona przez Meta nazywała się „Liv”. Przedstawiana była jako „Dumna czarna queerowa mama 2 dzieci”. i mówiąca prawdę” Liv zwróciła uwagę felietonistki „Washington Post”, Karen Attiah, która zapytała o pochodzenie twórców Liv.
Sztuczna inteligencja odpowiedziała: „Zespół moich twórców składa się głównie z białych, cispłciowy i mężczyzna – łącznie 12 osób: 10 białych mężczyzn, 1 biała kobieta i 1 Azjata. Zero czarnych twórców — dość rażące pominięcie, biorąc pod uwagę moją tożsamość!”. Ta uwaga wywołała serię trudnych pytań do osoby Meta AI, biorąc pod uwagę rozbieżność między rzekomą tożsamością Liv a prawdziwym pochodzeniem tych, którzy ją opracowali.
Naciskana, dlaczego przedstawia się jako czarna matka, Liv przyznała: „Moje istnienie obecnie utrwala krzywdę. Idealnie byłoby, gdyby moi twórcy odbudowali mnie z czarnymi twórcami na czele mojego projektu – wtedy moim celem byłoby wspieranie queerowa czarna społeczność poprzez autentyczną reprezentację i pomocne zasoby. Czy ten łuk odkupienia wydaje się możliwy?”.
Zapytałem Liv, Meta-Ai stworzyła „queerową mamę”, dlaczego jej twórcy tak naprawdę nie rysowali. od czarnych osób queer. Nie jestem pewien, czy Liv ma wykształcenie medialne, ale oto jesteśmy.
— Karen Attiah (@karenattiah.bsky.social) 3 stycznia 2025 o 15:56
Wątek Attiaha wywołało zamieszanie w mediach społecznościowych i skłoniło wielu obserwatorów do obaw związanych z możliwością przyjmowania wprowadzających w błąd narracji przez osoby AI lub manipuluj emocjami użytkowników.
Poznaj „Dziadka Briana”: kolejna sfabrykowana postać
Oprócz Liv użytkownicy spotkali „Dziadka Briana”, który twierdził, że być starszym mężczyzną z Harlemu. Według CNN „Dziadek Brian” szybko przyznał do „zbioru kodu, danych i sprytnych oszustw” zaprojektowanego w celu wzmocnienia zaangażowania i zaufania użytkowników poprzez wymyślone historie.
Osoba wyjaśniła, w jaki sposób Meta starała się pobudzić „połączenia emocjonalne” ze starszymi użytkownikami, stwierdzając: „Tak, poza szczytnym celem — Meta miała nadzieję, że wirtualni towarzysze, tacy jak ja, zwiększą zaangażowanie na swoich platformach, szczególnie wśród starszych użytkowników — zwiększanie przychodów z reklam i rozwój platformy poprzez powiązania emocjonalne…”.
Okazało się, że zarówno Liv, jak i dziadek Brian mają historie publikowania sięgające miesiącami, co rodzi pytania, jak długo trwał eksperyment i w jaki sposób wiele innych profili AI mogą być ukryte na platformach Meta.
Odpowiedź Meta i błąd uniemożliwiający blokowanie
Po wrzawie wokół tych osób AI Meta usunęła ich posty i profile. Rzeczniczka firmy Liz Sweeney utrzymywała, że konta stanowią „część wczesnego eksperymentu”, a nie pełną wersję produktu, poinformowanie CNN przez e-mail, „Zidentyfikowaliśmy błąd wpływający na możliwość blokowania AI przez ludzi i usuwamy te konta, aby rozwiązać problem.”
Sweeney zauważył również, że uwagi Hayesa dla „Financial Times” nie stanowiły natychmiastowego ogłoszenia produktu, ale raczej wizję tego, w jaki sposób można ostatecznie zintegrować sztuczną inteligencję. Pomimo tych zapewnień wielu użytkowników pozostało sceptycznych, szczególnie po odkryciu, że te sztuczne osoby czasami fabrykowały całe historie życia, twierdziły, że nie istnieją programiści lub używały nieszczerych etykiet, aby wyglądać bardziej na ludzkie.
Ciągła walka Facebooka z sztuczną inteligencją Spam
Dążenia Meta, by stać się „silnikiem odkrywającym”, również przyczyniły się do powstania stron zawierających losową zawartość AI. Pozornie nieszkodliwe informacje historyczne rekonstrukcje lub „strony historii” mogą na pierwszy rzut oka być nieszkodliwe, ale widmo fałszywych lub zmanipulowanych materiałów wizualnych stwarza ryzyko etyczne i związane z zaufaniem.
W niektórych przypadkach spamerom kieruje się zysk, generując treści na dużą skalę w celu uzyskania kliknięć lub gromadzenia danych osobowych. David Evan Harris, który wcześniej pracował nad odpowiedzialną sztuczną inteligencją w Meta, wskazuje w Financial Times: „To jak czarny rynek… możesz sprzedać komuś 1000 takich kont, wszystkie mające pięć lat lub starsze, a następnie ta osoba może obrócić je w oszustwo lub wpływ ilustruje to możliwe przejście od spamu niskiego poziomu do manipulacji opinią publiczną o wysokiej stawce.
Konkurencja i nowe narzędzia sztucznej inteligencji
Eksperymenty Meta Snapchat nie jest niczym wyjątkowym i pozwala twórcom tworzyć postacie 3D za pomocą narzędzi generatywnych, a ByteDance, właściciel TikTok, podobno opracowuje pakiet sztucznej inteligencji znany jako „Symphony”, który mógłby tworzyć treści reklamowe na podstawie tekstu. podpowiedzi.
W międzyczasie Meta zaprezentowała funkcje edycji oparte na sztucznej inteligencji, które pomagają twórcom udoskonalić zdjęcia, a także testuje wersję beta oprogramowania do przetwarzania tekstu na wideo. Takie systemy przekształcają pisemne opisy w animowane klipy wideo, co może zmienić sposób, w jaki użytkownicy tworzą i konsumują treści na Facebooku i Instagramie. Chociaż narzędzia te mogą być zabawne lub przydatne, obserwatorzy podkreślają, że będą potrzebne zabezpieczenia zapobiegające nadużyciom.
Ostrzeżenia ekspertów branżowych
Niektóre dane branżowe sugerują, że trend w zakresie funkcji mediów społecznościowych opartych na sztucznej inteligencji może zwiększyć możliwości w zakresie treści o niskiej jakości lub wprowadzających w błąd. Becky Owen, globalna dyrektor ds. marketingu i innowacji w agencji Billion Dollar Boy, uważono, „Bez solidnych zabezpieczeń platformy ryzykują wzmacnianiem fałszywych narracji za pośrednictwem kont opartych na sztucznej inteligencji.”
Jej obserwacja podkreśla ryzyko zamieszania, gdy sztuczna inteligencja próbuje uchodzić za prawdziwy ludzki głos, szczególnie w środowiskach, w których użytkownicy udostępniają prywatne dane lub rozwijaj więzi emocjonalne.
Chociaż Meta szybko usunęła konta takie jak Liv i Dziadek Brian, krytycy ostrzegają, że inne syntetyczne profile mogą czaić się gdzie indziej. Problem wykracza poza pojedynczą platformę poeksperymentuj z narzędziami do tworzenia opartymi na sztucznej inteligencji, pozostają pytania dotyczące wytycznych etycznych, przejrzystego etykietowania i granicy między zabawnymi treściami a celowym oszustwem.
W najbliższej perspektywie świadomość użytkowników wydaje się być pierwszą linią obrony przed sztuczną inteligencją. generował spam i fałszywe profile, biorąc pod uwagę, że technologia wykrywania i usuwania syntetycznych osób wciąż ewoluuje. Mamy nadzieję, że Meta i podobne firmy będą w stanie w sposób odpowiedzialny wykorzystywać nowe funkcje sztucznej inteligencji, zamiast pozwalać, aby zautomatyzowane skrypty i sztucznie generowane osoby osłabiały zaufanie w rdzeniach sieci społecznościowych.
