Des chercheurs de Google, de l’Université Duke et de plusieurs médias ont dévoilé une étude complète détaillant l’augmentation rapide de la désinformation générée par l’IA. L’analyse, publiée dans une prépublication, présente un vaste ensemble de données de désinformation vérifiées par des sites Web comme Snopes, remontant à 1995.
Les chercheurs préviennent que le problème de la désinformation générée par l’IA pourrait être plus grave que prévu. La facilité de produire de la désinformation générée par l’IA dépasse de loin les efforts requis pour la vérifier, ce qui conduit à un flux incessant de réponses incorrectes et parfois dangereuses générées par l’IA qui deviennent virales sur les réseaux sociaux.
Massif Désinformation et défis de la vérification des faits
L’ensemble de données de l’étude, comprenant 135 838 vérifications des faits, révèle que les images générées par l’IA sont devenues presque aussi répandues que les formes traditionnelles de manipulation de contenu. Cette montée de la désinformation générée par l’IA coïncide avec la sortie de nouveaux outils de génération d’images d’IA par des géants de la technologie tels qu’OpenAI, Microsoft et Google lui-même.
Ce qui a commencé par des réponses maladroites de ChatGPT s’est rapidement transformé en une forte hausse de la désinformation générée par l’IA.-des deepfakes de qualité. La mise en œuvre de fonctionnalités d’image générative de pointe dans Adobe Photoshop/Lightroom ne devrait qu’accélérer cette vague de deepfakes difficiles à identifier. Les aperçus IA récemment lancés par Google dans la recherche ajoutent des réponses manifestement fausses du principal moteur de recherche. Vous pouvez consulter bon nombre de ces « échecs de l’IA » dans le subreddit aifailedme.
Google AI Overview recommande de boire de grandes quantités d’urine pour les calculs rénaux
paru/WinBuzzer dansaifailedme
Les vérificateurs de faits de Snopes, Politifact et d’autres sites Web ont signalé une augmentation substantielle de la désinformation générée par l’IA. Les chercheurs notent que même si les images générées par l’IA constituaient un problème mineur jusqu’au début de l’année dernière, elles sont depuis devenues presque aussi courantes que les textes. L’ensemble de données indique que la majorité des réclamations ont été formulées après 2016, suite à l’introduction de ClaimReview, un système de marquage permettant de signaler la désinformation. des plateformes comme Google, Facebook et Bing.
L’impact du battage médiatique sur l’IA : les canulars en hausse
La montée de la désinformation générée par l’IA a été parallèle par une vague de battage médiatique sur l’IA, qui a peut-être influencé l’orientation des sites Web de vérification des faits. Cependant, l’étude montre également que la vérification des faits par l’IA a ralenti ces derniers mois, la manipulation traditionnelle de textes et d’images connaissant une augmentation.
La recherche met également en évidence la prévalence des canulars vidéo, qui constituent désormais environ 60 pour cent de toutes les affirmations vérifiées qui incluent les médias. Cette tendance souligne le défi croissant que représente la lutte contre la désinformation dans diverses formes de médias.
Conséquences réelles et préoccupations éthiques
La désinformation générée par l’IA a des conséquences tangibles. effets, depuis de fausses images nues de célébrités comme Taylor Swift jusqu’à des photos trompeuses d’événements publics. Par exemple, les fausses photos de Katy Perry assistant au Met Gala ont trompé les observateurs sur les réseaux sociaux et même ceux de la star. parents. Ces incidents illustrent la facilité avec laquelle l’IA peut créer du contenu convaincant mais faux.
Kate Perry dans un environnement sûr et époustouflant #MetGala pic.twitter.com/ybpKvxmoIt
— Blush et Banter (@blushandbanters) 7 mai 2024
Sasha Luccioni, chercheuse en éthique de l’IA chez Hugging Face, souligne la difficulté de suivre les nombreux exemples de désinformation sur l’IA. L’essor du contenu généré par l’IA a posé des défis importants aux sociétés de médias sociaux et aux moteurs de recherche comme Google, qui ont dû faire face à de fausses images de célébrités figurant en bonne place dans les résultats de recherche.
