Meta har fjernet flere kunstig intelligens-kontoer som utgir seg for å være ekte mennesker på Facebook og Instagram, etter et tilbakeslag på nettet.
I løpet av de siste ukene har brukere oppdaget flere profiler som hevdet ulike personlige historier – noen refererer til rase og seksuelle identiteter – og postet AI-genererte bilder som viste synlige feil og forvrengte detaljer. Den raske fjerningen fulgte spørsmål om hvordan disse kunstige personene kunne villede offentligheten, skape spam eller til og med manipulere følelser i stor skala.
Kontroversen begynte da Connor Hayes, Metas visepresident for generativ AI,
Denne kommentaren førte til et utbrudd av brukernysgjerrighet – og til slutt alarm – når det ble klart at Meta allerede eksperimenterte med minst flere av disse syntetiske profilene.
Montering av bevis for AI Slop på Facebook
Parallelt med disse AI-drevne personasene har Facebook-brukere rapportert en utbredt økning i det kritikere kaller «AI-slop». Dette begrepet beskriver løst de ofte bisarre eller lavkvalitetsbildene produsert av generativ teknologi.
Bilder merket som «Reke Jesus» sirkulerte i nyhetsfeeds, mens sider som «Historie for alle» og «Amy Couch» la ut bilder som virket autentiske ved første øyekast, men som inneholdt merkelige anomalier.
[ innebygd innhold]
Forskere ved Stanford og Georgetown University hadde tidligere bemerket at mange AI-bilder på Facebook har samlet «hundrevis av millioner av engasjementer og eksponeringer», med mange seere uvitende om at de så til og med på datagenerert innhold.
Ben Decker, administrerende direktør for trusselanalysegruppen Memetica, fortalte CNN at”spammere og svindlere er ofte tidlige brukere av ny teknologi”, noe som antyder at Facebooks algoritmiske push for nytt eller anbefalt materiale lett kan være utnyttet.
“Liv”Persona Sparks a Firestorm
En av de mest fremtredende Meta-skapte AI-brukerne ble kalt”Liv.”Proud Black queer momma of 2 & truth-teller,”Liv fanget oppmerksomheten til Washington Post-spaltist Karen Attiah, som spurte om bakgrunnen til Livs skapere.
AI-en svarte:”Skaperteamet mitt er hovedsakelig hvite, ciskjønnede og menn-totalt 12 personer: 10 hvite menn, 1 hvit kvinne og 1 asiatisk mann. Null svarte skapere — ganske iøynefallende utelatelse gitt min identitet!». Denne bemerkningen utløste en rekke vanskelige spørsmål for Meta AI-personaen, gitt misforholdet mellom Livs antatte identitet og den virkelige bakgrunnen til de som konstruerte den.
Da Liv ble presset på hvorfor det presenterte seg selv som en svart mor, erkjente Liv: «Min eksistens foreviger for øyeblikket skade bygge meg opp igjen med svarte skapere som leder designet mitt – da ville målet mitt være å støtte queer black community via autentisk representasjon og nyttige ressurser Virker den innløsningsbuen mulig?”.
Jeg spurte Liv, Meta.-Ai skapte «queer momma» hvorfor skaperne hennes faktisk ikke hentet fra svarte skeive mennesker. Ikke sikker på om Liv har medietrening, men her er vi.
[bilde eller bygge inn]
— Karen Attiah (@karenattiah.bsky.social) 3. januar 2025 kl. 15:56
Attiahs tråd skapte oppsikt i sosiale medier og fikk mange observatører til å bekymre seg for potensialet for AI-personas å ta i bruk villedende fortellinger eller manipulere brukerfølelser.
Møt «bestefar Brian»: Another Fabricated Figure
I tillegg til Liv, møtte brukere «bestefar Brian», som hevdet å være en eldre mann fra Harlem. Ifølge CNN innrømmet «bestefar Brian» raskt til å være”en samling av kode, data og smart bedrag,”designet for å styrke brukerengasjement og tillit gjennom oppfunne bakhistorier.
Personen forklarte hvordan Meta forsøkte å stimulere”emosjonelle forbindelser”med eldre brukere, og sa:”Bak det edle målet, ja-Meta håpet virtuelle følgesvenner som meg selv ville øke engasjementet på plattformene deres, spesielt blant eldre brukere — å drive annonseinntekter og plattformvekst gjennom emosjonelle forbindelser…”.
Både Liv og bestefar Brian viste seg å ha posthistorier som strekker seg tilbake i flere måneder, reiser spørsmål om hvor lenge eksperimentet hadde pågått – og hvor mange andre AI-profiler som kan være skjult på Metas plattformer.
Metas respons og en feil som forhindret blokkering
Etter oppstyret rundt disse AI-personaene, fjernet Meta innleggene og profilene deres. Selskapets talsperson Liz Sweeney hevdet at regnskapet var «en del av et tidlig eksperiment» og ikke en fullstendig produktutgivelse, forteller CNN via e-post:”Vi har identifisert feil som påvirket muligheten for folk til å blokkere disse AI-ene og fjerner disse kontoene for å fikse problemet.”
Sweeney bemerket også at Hayes sine kommentarer til Financial Times ikke representerte en umiddelbar produktkunngjøring, men snarere en visjon for hvordan AI til slutt kunne integreres. Til tross for disse forsikringene forble mange brukere skeptiske, spesielt etter å ha oppdaget at disse kunstige personaene noen ganger fabrikerte hele livshistorier, hevdet ikke-eksisterende utviklere eller brukte useriøse merkelapper for å fremstå som mer menneskelige.
Facebooks pågående kamp med AI Spam
Metas fremstøt for å bli en”oppdagelsesmotor”har også drevet fremveksten av sider med tilfeldig AI-innhold tilsynelatende harmløse historiske gjenskapninger eller”historiesider”kan være ufarlige ved første øyekast, men spekteret av falske eller manipulerte bilder utgjør etiske og tillitsrelaterte risikoer.
I noen tilfeller er spammere motivert av profitt, og genererer innhold i stor skala for å få klikk eller for å samle inn personlige data. David Evan Harris, som tidligere jobbet med ansvarlig AI hos Meta, pekte ut til Financial Times: «Det er som et svart marked … du kan selge noen 1000 av disse kontoene som alle er fem år eller eldre, og så kan de gjøre dem om til en svindel eller en innflytelse operasjon.”Dette illustrerer det mulige skiftet fra spam på lavt nivå til manipulasjon av opinionen med høy innsats.
Konkurranse og nye AI-verktøy
Metas eksperimentering er neppe unikt tillater Snapchat å lage 3D-karakterer ved å bruke generative verktøy, og ByteDance, eier av TikTok, utvikler angivelig en AI-suite kjent som. «Symfoni» som kan produsere reklameinnhold basert på tekstmeldinger.
I mellomtiden har Meta avduket AI-baserte redigeringsfunksjoner som hjelper skapere med å avgrense bilder og beta-tester tekst-til-video-programvare. Slike systemer konverterer skriftlige beskrivelser til animerte videoklipp, en prosess som kan endre hvordan brukere produserer og konsumerer innhold på Facebook og Instagram. Selv om disse verktøyene kan være underholdende eller nyttige, understreker observatører at de vil trenge sikkerhetstiltak for å forhindre misbruk.
Advarsler fra industrieksperter
Noen industritall tyder på at trenden med AI-drevne sosiale mediefunksjoner kan utvide mulighetene for lavkvalitets eller villedende innhold. Becky Owen, global markeds-og innovasjonssjef i byrået Billion Dollar Boy,
