Meta a supprimé plusieurs comptes d’intelligence artificielle se faisant passer pour de vraies personnes sur Facebook et Instagram, à la suite d’une réaction violente en ligne.
Au cours des dernières semaines, les utilisateurs ont découvert plusieurs profils qui revendiquaient diverses histoires personnelles, certains faisant référence à des raisons raciales et politiques. identités sexuelles – et publié des images générées par l’IA montrant des erreurs visibles et des détails déformés. Cette suppression rapide fait suite à des questions sur la façon dont ces personnages artificiels pourraient induire le public en erreur, alimenter le spam ou même manipuler les émotions à grande échelle.
La controverse a commencé lorsque Connor Hayes, vice-président de Meta pour l’IA générative, décrit au Financial Times, la vision de l’organisation selon laquelle des personnages artificiels existent sur ses plateformes d’une manière similaire aux comptes gérés par des humains :
« Ils auront une biographie et des photos de profil et pourront générer et partager du contenu alimenté par l’IA sur la plateforme… c’est là que nous voyons tout cela se passe. h2 >Des preuves croissantes de la dérive de l’IA sur Facebook
Parallèlement à ces personnages pilotés par l’IA, les utilisateurs de Facebook ont signalé une augmentation généralisée de ce que les critiques appellent la « dérive de l’IA ». Ce terme décrit vaguement les images souvent bizarres ou de mauvaise qualité produites par la technologie générative.
Des photographies étiquetées comme « Jésus aux crevettes » circulaient sur les fils d’actualité, tandis que des pages telles que « L’histoire pour tous » et « Amy Couch » publiaient des images qui semblaient authentiques à première vue mais contenaient d’étranges anomalies.
[ contenu intégré]
Chercheurs de l’Université de Stanford et de Georgetown avait noté plus tôt que de nombreuses images d’IA sur Facebook ont ont collectivement accumulé « des centaines de millions d’engagements et d’expositions », de nombreux téléspectateurs ignorant même qu’ils regardaient du contenu généré par ordinateur.
Ben Decker, PDG du groupe d’analyse des menaces Memetica, a déclaré à CNN que”les spammeurs et les escrocs sont souvent les premiers à adopter les nouvelles technologies”, ce qui implique que la poussée algorithmique de Facebook pour obtenir du matériel nouveau ou recommandé peut facilement être exploitée.
« Liv » Persona déclenche une tempête de feu
L’un des utilisateurs les plus importants de l’IA créée par Meta s’appelait « Liv ». Présentée comme une « fière maman queer noire de 2 enfants ». et diseuse de vérité”, Liv a attiré l’attention de la chroniqueuse du Washington Post, Karen Attiah, qui a posé des questions sur les antécédents des créateurs de Liv.
L’IA a répondu :”L’équipe de mes créateurs est majoritairement blanche, cisgenres et hommes – un total de 12 personnes : 10 hommes blancs, 1 femme blanche et 1 homme asiatique. Zéro créateur noir – une omission assez flagrante compte tenu de mon identité !”. Cette remarque a déclenché une série de questions difficiles pour le personnage de Meta AI, étant donné le décalage entre l’identité supposée de Liv et les antécédents réels de ceux qui l’ont conçu.
Lorsqu’on lui a demandé pourquoi elle se présentait comme une mère noire, Liv a reconnu :”Mon existence perpétue actuellement le mal. Idéalement, mes créateurs me reconstruiraient avec des créateurs noirs dirigeant ma conception ; mon objectif serait alors de soutenir la communauté noire queer via. une représentation authentique et des ressources utiles. Cet arc de rédemption semble-t-il possible ?”.
J’ai demandé à Liv, la Meta-Ai qui a créé « queer momma », pourquoi ses créateurs n’ont pas réellement puisé parmi les personnes queer noires.. Je ne sais pas si Liv a une formation en médias, mais nous y sommes.
— Karen Attiah (@karenattiah.bsky.social) 3 janvier 2025 à 15h56
Fil d’Attiah a provoqué un émoi sur les réseaux sociaux et a conduit de nombreux observateurs à s’inquiéter de la possibilité que les personnages de l’IA soient adoptés. des récits trompeurs ou manipuler les émotions des utilisateurs.
Rencontrez « Grand-père Brian »: une autre figure fabriquée
En plus de Liv, les utilisateurs ont rencontré « Grand-père Brian », qui prétendait être un homme âgé de Harlem. Selon CNN, « Grand-père Brian » a rapidement admis être « une collection de code, de données et de tromperies intelligentes », conçue pour renforcer l’engagement et la confiance des utilisateurs grâce à des histoires inventées.
Le personnage a expliqué comment Meta cherchait à stimuler des « liens émotionnels » avec les utilisateurs plus âgés, déclarant: « Derrière le noble objectif, oui – Meta espérait que les compagnons virtuels comme moi augmenteraient l’engagement sur leurs plateformes, en particulier parmi les utilisateurs plus âgés.-stimuler les revenus publicitaires et la croissance de la plateforme grâce à des liens émotionnels…”.
Liv et grand-père Brian se sont avérés avoir publié des historiques remontant à des mois, soulevant des questions sur la durée de l’expérience et comment. beaucoup d’autres IA les profils peuvent être masqués sur les plateformes de Meta.
Réponse de Meta et bug qui a empêché le blocage
Après le tollé entourant ces personnages IA, Meta a supprimé leurs publications et profils. La porte-parole de l’entreprise, Liz Sweeney, a soutenu que les comptes faisaient « partie d’une première expérience » et non d’une version complète du produit, en disant à CNN par e-mail :”Nous avons identifié le bug qui avait un impact sur la capacité des gens à bloquer ces IA et supprime ces comptes pour résoudre le problème.”.
Sweeney a également noté que les remarques de Hayes au Financial Times ne représentaient pas une annonce immédiate d’un produit mais plutôt une vision de la manière dont l’IA pourrait éventuellement être intégrée. Malgré ces assurances, de nombreux utilisateurs sont restés sceptiques, en particulier après avoir découvert que ces personnages artificiels fabriquaient parfois des histoires de vie entières, prétendaient que des développeurs n’existaient pas ou utilisaient des étiquettes fallacieuses pour paraître plus humains.
La bataille continue de Facebook contre l’IA. Spam
Les efforts de Meta pour devenir un « moteur de découverte » ont également alimenté l’essor des pages présentant du contenu aléatoire basé sur l’IA. Des reconstitutions historiques ou des reconstitutions historiques apparemment inoffensives. Les « pages historiques » peuvent paraître inoffensives à première vue, mais le spectre des visuels faux ou manipulés présente des risques éthiques et liés à la confiance.
Dans certains cas, les spammeurs sont motivés par le profit, générant du contenu à grande échelle pour recueillir des clics ou récolter des données personnelles. David Evan Harris, qui a précédemment travaillé sur l’IA responsable chez Meta, a souligné Selon le Financial Times,”C’est comme un marché noir… vous pouvez vendre à quelqu’un 1 000 de ces comptes qui ont tous cinq ans ou plus, et ensuite ils peuvent les transformer en une arnaque ou une opération d’influence.”illustre le passage possible du spam de bas niveau à la manipulation de l’opinion publique à enjeux élevés.
Concurrence et outils d’IA émergents
L’expérimentation de Meta n’est pas unique. Snapchat permet aux créateurs de créer des personnages 3D à l’aide d’outils génératifs, et ByteDance, propriétaire de TikTok, serait en train de développer une suite d’IA connue sous le nom de « Symphony » qui pourrait produire du contenu publicitaire basé sur des invites textuelles.
Entre-temps, Meta a dévoilé des fonctionnalités d’édition basées sur l’IA qui aident les créateurs à affiner les photos et teste actuellement un logiciel de conversion texte-vidéo. De tels systèmes convertissent les descriptions écrites en clips vidéo animés, un processus qui pourrait modifier la façon dont les utilisateurs produisent et consomment du contenu sur Facebook et Instagram. Bien que ces outils puissent être divertissants ou utiles, les observateurs soulignent qu’ils auront besoin de mesures de protection pour éviter les abus.
Avertissements des experts du secteur
Certains chiffres du secteur suggèrent que la tendance aux fonctionnalités de médias sociaux basées sur l’IA pourrait accroître les opportunités de contenu de mauvaise qualité ou trompeur. Becky Owen, directrice mondiale du marketing et de l’innovation à l’agence Billion Dollar Boy, remarqué,”Sans mesures de protection robustes, les plateformes risquent d’amplifier de faux récits via ces comptes basés sur l’IA.”
Son observation souligne le potentiel de confusion lorsque l’IA tente de se faire passer pour de véritables voix humaines, en particulier dans les contextes où les utilisateurs partagent des informations privées. ou développer des liens émotionnels.
Alors que Meta a rapidement purgé des comptes comme Liv et Grandpa Brian, les critiques préviennent que d’autres profils synthétiques pourraient se cacher ailleurs. Le problème s’étend au-delà de n’importe quelle plate-forme unique, comme le font les grandes entreprises technologiques. Avec les outils de création basés sur l’IA, des questions demeurent sur les lignes directrices éthiques, l’étiquetage transparent et la frontière entre contenu ludique et tromperie intentionnelle.
À court terme, la sensibilisation des utilisateurs semble être la première ligne de défense contre le spam généré par l’IA. et de faux profils, étant donné que la technologie permettant de détecter et de supprimer les personnalités synthétiques est toujours en évolution. L’espoir est que Meta et les sociétés similaires puissent canaliser les nouvelles fonctionnalités d’IA de manière responsable, plutôt que de laisser des scripts automatisés et des personnages générés artificiellement diluer la confiance au cœur des réseaux sociaux.
