Ongeveer een week geleden introduceerde Google AI Overviews for Search, een functie die door AI gegenereerde samenvattingen uit verschillende webbronnen samenstelt om vragen van gebruikers te beantwoorden. Deze functie, gelanceerd in de Verenigde Staten na de I/O 2024-ontwikkelaarsconferentie van Google, heeft al snel kritiek gekregen vanwege talrijke feitelijke onjuistheden die door gebruikers zijn gemeld.
Oorspronkelijk gelanceerd in bèta in mei 2023 als onderdeel van de Search Generative Experience, de uitrol van AI Overviews, heeft tot doel het ophalen van gebruikersinformatie te stroomlijnen, maar de huidige onnauwkeurigheden benadrukken de complexiteit en verantwoordelijkheden die gepaard gaan met het op grote schaal inzetten van generatieve AI. Het garanderen van de betrouwbaarheid en veiligheid van door AI gegenereerde inhoud is een grote uitdaging voor Google.
De kernactiviteit van Google is sterk afhankelijk van zoeken en de advertenties die naast de zoekresultaten worden gegenereerd, waardoor de betrouwbaarheid van de door AI gegenereerde antwoorden van cruciaal belang is. Privé zijn Google-medewerkers van mening dat de problematische antwoorden randproblemen zijn en dat AI over het algemeen goed presteert. De verschuiving van traditionele zoekresultaten naar door AI gegenereerde antwoorden vertegenwoordigt een aanzienlijke verandering in de verantwoordelijkheid en autoriteit die Google op zich neemt bij het verstrekken van informatie.
Gebruikersrapporten benadrukken gevaarlijke fouten
Socialemediaplatforms zijn overspoeld met voorbeelden van bizarre reacties van de AI van Google Overzicht, zoals het adviseren van gebruikers om stenen te eten. Eén gebruiker ontving een bizarre suggestie om “ongeveer 1/8 kopje niet-giftige lijm aan de saus” toe te voegen om te voorkomen dat kaas niet aan de pizza blijft plakken.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 mei 2024
Een andere gebruiker vroeg of het veilig was om een hond in een hete auto achter te laten en kreeg een bevestigend antwoord, onder verwijzing naar fictieve Beatles-teksten. Deze incidenten hebben ernstige zorgen doen rijzen over de betrouwbaarheid en veiligheid van de door AI gegenereerde informatie inhoud.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23 mei 2024
Echo’s van Bards lanceringsproblemen
De problemen met AI Overzichten doen denken aan de uitdagingen waarmee Google werd geconfronteerd met zijn AI-chatbot Bard, die in maart 2023 werd gelanceerd. Bard kreeg kritiek vanwege het ontbreken van adequate veiligheids-en ethische maatregelen. In februari 2024 moest Google de functie voor het maken van afbeeldingen in Bards opvolger, Gemini, uitschakelen nadat deze ongepaste afbeeldingen had geproduceerd van mensen met een donkere huidskleur. Google heeft sindsdien verbeteringen beloofd voordat de functie opnieuw werd geïntroduceerd, maar deze blijft inactief.
Het bedrijf heeft ambitieuze plannen voor AI Overviews, inclusief redeneren in meerdere stappen voor complexe zoekopdrachten en zoeken naar video’s in Google Lens, maar de huidige reputatie is risico als gevolg van deze initiële problemen.
Google staat onder druk om te concurreren met andere AI-gestuurde zoekmachines zoals Bing en de potentiële zoekmachine van OpenAI, evenals met nieuwe AI-startups zoals Perplexity AI, die een AI-gebaseerd zoeken op internet.
Google’s reactie op kritiek
Google heeft de problemen met AI-overzichten erkend en zal naar verwachting corrigerende maatregelen nemen. Google heeft AI-overzichten handmatig uitgeschakeld voor specifieke zoekopdrachten na de verspreiding van deze ongebruikelijke reacties op sociale netwerken. Google-woordvoerder Meghann Farnsworth zei dat het bedrijf snel actie onderneemt om AI-overzichten voor bepaalde zoekopdrachten te verwijderen en gebruikt deze voorbeelden om hun systemen te verbeteren.
Google-CEO Sundar Pichai zegt dat Google erin is geslaagd de kosten voor het leveren van AI-antwoorden met 80 procent te verlagen via hardware , techniek en technische vooruitgang. Maar te midden van een problematische lancering zal de inzet van Google om de veiligheid en nauwkeurigheid van zijn AI-functies te verbeteren essentieel zijn voor het herwinnen van het vertrouwen van gebruikers.
[embedded content]
Google beweert dat de meerderheid van de AI Overzichten bieden informatie van hoge kwaliteit en veel van de problematische voorbeelden zijn ongebruikelijke zoekopdrachten of vervalste exemplaren.
De geschiedenis van het bedrijf met Bard en Gemini suggereert een patroon van het lanceren van AI-producten die later aanzienlijke aanpassingen vereisen. Google heeft een geschiedenis van het intrekken van AI-producten na reacties van gebruikers. Dit patroon van het lanceren, onder ogen zien van kritiek en het vervolgens terugtrekken van producten is al eerder waargenomen.
