Il y a environ une semaine, Google a lancé AI Overviews for Search, une fonctionnalité qui compile des résumés générés par l’IA à partir de diverses sources Web pour répondre aux requêtes des utilisateurs. Cette fonctionnalité, lancée aux États-Unis après la conférence des développeurs I/O 2024 de Google, a rapidement suscité des critiques pour de nombreuses inexactitudes factuelles signalées par les utilisateurs.
Initialement lancée en version bêta en mai 2023 dans le cadre de la recherche. Generative Experience, le déploiement d’AI Overviews vise à rationaliser la récupération d’informations sur les utilisateurs, mais les inexactitudes actuelles mettent en évidence les complexités et les responsabilités associées au déploiement de l’IA générative à grande échelle. Garantir la fiabilité et la sécurité du contenu généré par l’IA constitue un défi de taille pour Google.
Le cœur de métier de Google repose fortement sur la recherche et les annonces générées parallèlement aux résultats de recherche, ce qui rend la fiabilité de ses réponses générées par l’IA cruciale. En privé, les employés de Google estiment que les réponses problématiques sont des questions marginales et que l’IA fonctionne généralement bien. Le passage des résultats de recherche traditionnels aux réponses générées par l’IA représente un changement significatif dans la responsabilité et l’autorité assumée par Google dans la fourniture d’informations.
Les rapports des utilisateurs mettent en évidence des erreurs dangereuses
Les plateformes de réseaux sociaux ont été inondées d’exemples de réponses bizarres de l’IA de Google. Vue d’ensemble, par exemple conseiller aux utilisateurs de manger des pierres. Un utilisateur a reçu une suggestion bizarre d’ajouter”environ 1/8 tasse de colle non toxique à la sauce”pour réparer le fromage qui ne colle pas à la pizza.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 mai 2024
Un autre utilisateur a demandé s’il était sécuritaire de laisser un chien dans une voiture chaude et a reçu une réponse affirmative, citant des paroles fictives des Beatles. Ces incidents ont soulevé de sérieuses inquiétudes quant à la fiabilité et à la sécurité des informations générées par l’IA. contenu.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23 mai 2024
Problèmes de lancement d’Echos of Bard
Les problèmes avec l’IA Les aperçus rappellent les défis auxquels Google a été confronté avec son chatbot IA, Bard, lancé en mars 2023. Bard a été critiqué pour son manque de mesures de sécurité et d’éthique adéquates. En février 2024, Google a dû désactiver la fonction de création d’images du successeur de Bard, Gemini, après avoir produit des images inappropriées de personnes à la peau plus foncée. Google a depuis promis des améliorations avant de réintroduire la fonctionnalité, mais celle-ci reste inactive.
La société a des projets ambitieux en matière d’aperçus de l’IA, notamment le raisonnement en plusieurs étapes pour les requêtes complexes et la recherche vidéo dans Google Lens, mais sa réputation actuelle est au plus bas. risque en raison de ces problèmes initiaux.
Google est sous pression pour rivaliser avec d’autres moteurs de recherche basés sur l’IA comme Bing et le moteur de recherche potentiel d’OpenAI, ainsi qu’avec de nouvelles startups d’IA comme Perplexity AI, qui propose une plateforme d’IA. recherche sur le Web.
Réponse de Google aux critiques
Google a reconnu les problèmes liés aux aperçus de l’IA et devrait prendre des mesures correctives. Google a désactivé manuellement les aperçus IA pour des recherches spécifiques suite à la propagation de ces réponses inhabituelles sur les réseaux sociaux. La porte-parole de Google, Meghann Farnsworth, a déclaré que l’entreprise prenait des mesures rapides. pour supprimer les aperçus de l’IA pour certaines requêtes et utilise ces exemples pour améliorer ses systèmes.
Le PDG de Google, Sundar Pichai, affirme que Google a réussi à réduire le coût de fourniture de réponses IA de 80 % grâce au matériel. , l’ingénierie et les progrès techniques. Mais dans un contexte de lancement problématique, l’engagement de Google à améliorer la sécurité et la précision de ses fonctionnalités d’IA sera essentiel pour regagner la confiance des utilisateurs.
[contenu intégré]
Google affirme que la majorité des fonctionnalités d’IA Les aperçus fournissent des informations de haute qualité et la plupart des exemples problématiques sont des requêtes rares ou des instances falsifiées.
L’histoire de l’entreprise avec Bard et Gemini suggère un modèle de lancement de produits d’IA qui nécessite ultérieurement des ajustements importants. Google a l’habitude de retirer des produits d’IA suite aux réactions négatives des utilisateurs. Cette tendance consistant à lancer des produits, à les critiquer puis à les retirer a déjà été observée.
