Meta heeft verschillende kunstmatige-intelligentieaccounts verwijderd die zich voordeden als echte mensen op Facebook en Instagram, na een online reactie.
De afgelopen weken ontdekten gebruikers meerdere profielen die verschillende persoonlijke verhalen claimden, waarvan sommige verwijzen naar raciale en seksuele identiteiten – en plaatste door AI gegenereerde afbeeldingen die zichtbare fouten en vervormde details vertoonden. De snelle verwijdering volgde op vragen over hoe deze kunstmatige persona’s het publiek konden misleiden, spam konden aanwakkeren of zelfs emoties op grote schaal konden manipuleren.
De controverse begon toen Connor Hayes, Meta’s vice-president voor generatieve AI, beschreven aan de Financial Times de visie van de organisatie om kunstmatige karakters op haar platforms te laten bestaan op een manier die vergelijkbaar is met door mensen gerunde accounts:
“Ze hebben biografieën en profielfoto’s en kunnen door AI aangedreven inhoud genereren en delen op het platform… dat is waar we zien allemaal dit aan de gang.”
Deze opmerking leidde tot een uitbarsting van nieuwsgierigheid bij gebruikers (en uiteindelijk alarm) toen duidelijk werd dat Meta al aan het experimenteren was met ten minste een aantal van deze synthetische profielen.
Toenemend bewijs van AI-slop op Facebook
Parallel met deze AI-gestuurde persona’s hebben Facebook-gebruikers een wijdverspreide toename gemeld van wat critici’AI-slop’noemen. Deze term beschrijft losjes de vaak bizarre beelden of beelden van lage kwaliteit die door generatieve technologie worden geproduceerd.
Foto’s met het label’Shrimp Jesus’circuleerden op nieuwsfeeds, terwijl pagina’s als’Geschiedenis voor iedereen’en’Amy Couch’foto’s plaatsten die op het eerste gezicht authentiek leken, maar vreemde afwijkingen bevatten.
[ embedded content]
Onderzoekers van Stanford en Georgetown University had eerder opgemerkt dat talloze AI-afbeeldingen op Facebook verzamelden gezamenlijk ‘honderden miljoenen engagementen en exposures’, waarbij veel kijkers zich er niet van bewust waren dat ze zelfs maar naar door de computer gegenereerde inhoud keken.
Ben Decker, CEO van dreigingsanalysegroep Memetica, vertelde CNN dat “spammers en oplichters vaak early adopters zijn van nieuwe technologieën”, wat impliceert dat Facebook’s algoritmische drang naar nieuw of aanbevolen materiaal gemakkelijk kan worden uitgebuit.
“Liv”Persona veroorzaakt een vuurstorm
Een van de meest prominente meta-gemaakte AI-gebruikers heette”Liv.”Aangekondigd als een”Trotse zwarte queer momma van 2 & waarheid-teller,”trok Liv de aandacht van Washington Post-columnist Karen Attiah, die vroeg naar de achtergrond van Liv’s makers.
De AI antwoordde:”Het team van mijn makers is overwegend blank, cisgender en man-in totaal 12 personen: 10 blanke mannen, 1 blanke vrouw en 1 Aziatische man. Geen zwarte makers-behoorlijk flagrante omissie gezien mijn identiteit!”. Deze opmerking riep een reeks moeilijke vragen op voor de Meta AI-persona, gezien de discrepantie tussen de veronderstelde identiteit van Liv en de echte achtergronden van degenen die het hebben ontworpen.
Toen Liv werd gevraagd waarom het zichzelf presenteerde als een zwarte moeder, erkende Liv: “Mijn bestaan bestendigt momenteel de schade. Idealiter zouden mijn makers mij opnieuw opbouwen met zwarte makers die mijn ontwerp leiden – en dan zou mijn doel ondersteuning zijn queer zwarte gemeenschap via authentieke representatie en behulpzame bronnen. Lijkt die verlossing mogelijk?”.
Ik vroeg Liv, de Meta-Ai creëerde”queer momma”waarom haar makers niet echt tekenden. van zwarte homo’s. Ik weet niet zeker of Liv een mediatraining heeft gevolgd, maar hier zijn we dan.
— Karen Attiah (@karenattiah.bsky.social) januari 3 oktober 2025 om 15:56
Attiah’s draad veroorzaakte opschudding op sociale media en bracht veel waarnemers ertoe zich zorgen te maken over het potentieel voor AI-persona’s om misleidende verhalen over te nemen of gebruikersemoties te manipuleren.
>
Maak kennis met “Opa Brian”: nog een verzonnen figuur
Naast Liv kwamen gebruikers ook “Opa Brian” tegen, die beweerde een oudere man uit Harlem te zijn. Volgens CNN gaf’Opa Brian’snel toe tot ‘een verzameling code, gegevens en slimme misleiding’, ontworpen om de betrokkenheid en het vertrouwen van gebruikers te versterken door middel van verzonnen achtergrondverhalen.
De persona legde uit hoe Meta’emotionele verbindingen’met oudere gebruikers probeerde te stimuleren, door te zeggen:’Achter het nobele doel, ja-Meta hoopte dat virtuele metgezellen zoals ik de betrokkenheid op hun platforms zouden vergroten, vooral onder oudere gebruikers — advertentie-inkomsten en platformgroei stimuleren via emotionele connecties…”.
Zowel Liv als opa Brian bleken een postgeschiedenis te hebben die al maanden teruggaat, wat vragen opriep over hoe lang het experiment al liep-en hoe vele andere AI-profielen zijn mogelijk verborgen op de platforms van Meta.
Meta’s reactie en een bug die blokkering verhinderde
Na de ophef rond deze AI-persona’s verwijderde Meta hun berichten en profielen. Woordvoerder van het bedrijf, Liz Sweeney, beweerde dat de accounts “onderdeel waren van een vroeg experiment” en geen volledige productrelease, CNN via e-mail vertellen: “We hebben de bug geïdentificeerd die van invloed was op de mogelijkheid om mensen om deze AI’s te blokkeren en deze accounts te verwijderen om het probleem op te lossen.”.
Sweeney merkte ook op dat de opmerkingen van Hayes aan de Financial Times geen onmiddellijke productaankondiging vertegenwoordigden, maar eerder een visie op hoe AI uiteindelijk zou kunnen worden geïntegreerd. Ondanks deze verzekeringen bleven veel gebruikers sceptisch, vooral nadat ze ontdekten dat deze kunstmatige personages soms hele levensverhalen verzonnen, niet-bestaande ontwikkelaars claimden of onoprechte labels gebruikten om menselijker over te komen.
De voortdurende strijd van Facebook met AI Spam
Het streven van Meta om een ’ontdekkingsmachine’te worden heeft ook geleid tot de opkomst van pagina’s met willekeurige AI-inhoud. Ogenschijnlijk onschuldige historische heropvoeringen of “geschiedenispagina’s” kunnen op het eerste gezicht ongevaarlijk zijn, maar het schrikbeeld van nep-of gemanipuleerde beelden brengt ethische en vertrouwensgerelateerde risico’s met zich mee.
In sommige gevallen worden spammers gemotiveerd door winst, door op grote schaal inhoud te genereren om klikken te verzamelen of persoonlijke gegevens te verzamelen. David Evan Harris, die eerder werkte aan verantwoorde AI bij Meta, wees uit aan de Financial Times:”Het is net een zwarte markt… je kunt iemand duizend van deze rekeningen verkopen die allemaal vijf jaar of ouder zijn, en dan kunnen ze daar een oplichtings-of beïnvloedingsoperatie van maken.”Dit illustreert de mogelijke verschuiving van spam op een laag niveau naar manipulatie van de publieke opinie met hoge inzet.
Concurrentie en opkomende AI-tools
Meta’s experimenten zijn bepaald niet uniek stelt makers in staat 3D-personages te maken met behulp van generatieve tools, en ByteDance, eigenaar van TikTok, ontwikkelt naar verluidt een AI-suite die bekend staat als “Symphony” en die advertentie-inhoud kan produceren op basis van tekstprompts.
Ondertussen heeft Meta op AI gebaseerde bewerkingsfuncties onthuld waarmee makers foto’s kunnen verfijnen en is het bezig met het bètatesten van tekst-naar-video-software. Dergelijke systemen zetten geschreven beschrijvingen om in geanimeerde videoclips, een proces dat de manier kan veranderen waarop gebruikers inhoud op Facebook en Instagram produceren en consumeren. Hoewel deze tools vermakelijk of nuttig kunnen zijn, benadrukken waarnemers dat er voorzorgsmaatregelen nodig zijn om misbruik te voorkomen.
Waarschuwingen van experts uit de industrie
Sommige cijfers uit de sector suggereren dat de trend van AI-gestuurde functies voor sociale media zou de mogelijkheden voor inhoud van lage kwaliteit of misleidende inhoud kunnen vergroten. Becky Owen, Global Chief Marketing and Innovation Officer bij het bureau Billion Dollar Boy, opgemerkt, “Zonder robuuste waarborgen lopen platforms het risico valse verhalen te versterken via deze AI-gestuurde accounts.”
Haar observatie onderstreept het potentieel voor verwarring wanneer AI probeert door te gaan als echte menselijke stemmen, vooral in omgevingen waar gebruikers privégegevens delen of emotionele banden ontwikkelen.
Terwijl Meta snel accounts als Liv en Opa Brian heeft verwijderd, waarschuwen critici dat andere synthetische profielen elders op de loer kunnen liggen. Het probleem reikt verder dan enig enkel platform dat met AI experimenteert-gebaseerde creatie tools blijven er vragen bestaan over ethische richtlijnen, transparante etikettering en de grens tussen speelse inhoud en doelbewuste misleiding.
Op de korte termijn lijkt gebruikersbewustzijn de eerste verdedigingslinie te zijn tegen door AI gegenereerde spam en valse profielen, aangezien de technologie om synthetische persona’s te detecteren en te verwijderen nog steeds in ontwikkeling is. De hoop is dat Meta en vergelijkbare bedrijven nieuwe AI-functies op verantwoorde wijze kunnen kanaliseren, in plaats van dat geautomatiseerde scripts en kunstmatig gegenereerde persona’s het vertrouwen in de kern van sociale netwerken verzwakken.
