Vor etwa einer Woche führte Google AI Overviews for Search ein, eine Funktion, die KI-generierte Zusammenfassungen aus verschiedenen Webquellen zusammenstellt, um Nutzeranfragen zu beantworten. Diese Funktion, die in den USA nach der Entwicklerkonferenz I/O 2024 von Google eingeführt wurde, stieß schnell auf Kritik wegen zahlreicher sachlicher Ungenauigkeiten, die von Nutzern gemeldet wurden.
Ursprünglich im Mai 2023 als Beta-Version als Teil der Suche eingeführt Generative Experience, die Einführung von AI Overviews, zielt darauf ab, den Abruf von Benutzerinformationen zu rationalisieren, aber die aktuellen Ungenauigkeiten verdeutlichen die Komplexität und Verantwortung, die mit dem Einsatz generativer KI in großem Maßstab verbunden sind. Die Gewährleistung der Zuverlässigkeit und Sicherheit von KI-generierten Inhalten ist eine große Herausforderung für Google.
Das Kerngeschäft von Google basiert stark auf der Suche und den neben den Suchergebnissen generierten Anzeigen, weshalb die Zuverlässigkeit seiner KI-generierten Antworten von entscheidender Bedeutung ist. Insgeheim sind Google-Mitarbeiter davon überzeugt, dass es sich bei den problematischen Antworten um Randthemen handelt und dass KI im Allgemeinen gute Leistungen erbringt. Die Verlagerung von herkömmlichen Suchergebnissen zu KI-generierten Antworten stellt eine erhebliche Änderung der Verantwortung und Autorität dar, die Google bei der Bereitstellung von Informationen übernimmt.
Benutzerberichte heben gefährliche Fehler hervor
Social-Media-Plattformen wurden mit Beispielen für bizarre Reaktionen der KI von Google überschwemmt Übersicht, z. B. die Empfehlung an Benutzer, Steine zu essen. Ein Benutzer erhielt den bizarren Vorschlag, „etwa 1/8 Tasse ungiftigen Kleber in die Soße zu geben“, damit der Käse nicht an der Pizza klebt.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
– SG-r01 (@heavenrend) 22. Mai 2024
Ein anderer Benutzer fragte, ob es sicher sei, einen Hund in einem heißen Auto zurückzulassen, und erhielt eine bejahende Antwort unter Berufung auf fiktive Beatles-Songtexte. Diese Vorfälle haben ernsthafte Bedenken hinsichtlich der Zuverlässigkeit und Sicherheit der von der KI erzeugten Daten geweckt Inhalt.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
-napalm (@napalmtrees) 23. Mai 2024
Echoes of Bard’s Launch-Probleme
Die Probleme mit KI-Übersichten erinnern an die Herausforderungen, denen sich Google mit seinem KI-Chatbot Bard gegenübersah, der im März 2023 auf den Markt kam. Bard wurde wegen fehlender angemessener Sicherheits-und ethischer Maßnahmen kritisiert. Im Februar 2024 musste Google die Bilderstellungsfunktion in Bards Nachfolger Gemini deaktivieren, nachdem diese unangemessene Bilder von Menschen mit dunkleren Hauttönen erzeugte. Google hat seitdem Verbesserungen versprochen, bevor die Funktion wieder eingeführt wurde, sie bleibt jedoch inaktiv.
Das Unternehmen hat ehrgeizige Pläne für KI-Übersichten, einschließlich mehrstufiger Schlussfolgerungen für komplexe Abfragen und Videosuche in Google Lens, aber sein aktueller Ruf ist schlecht Risiko aufgrund dieser anfänglichen Probleme.
Google steht unter Druck, mit anderen KI-gesteuerten Suchmaschinen wie Bing und der potenziellen Suchmaschine OpenAI sowie neuen KI-Startups wie Perplexity AI zu konkurrieren, das eine KI-gesteuerte Suchmaschine anbietet. basierte Websuche.
Googles Reaktion auf Kritik
Google hat die Probleme mit KI-Übersichten erkannt und wird voraussichtlich Korrekturmaßnahmen ergreifen. Das Unternehmen hat die KI-Übersichten für bestimmte Suchanfragen manuell deaktiviert, nachdem sich diese ungewöhnlichen Antworten in sozialen Netzwerken verbreitet hatten. Sprecherin Meghann Farnsworth sagte, dass das Unternehmen rasch Maßnahmen ergreift Entfernen Sie KI-Übersichten für bestimmte Abfragen und verwenden Sie diese Beispiele, um ihre Systeme zu verbessern.
Google-CEO Sundar Pichai sagt, dass Google es geschafft hat, die Kosten für die Bereitstellung von KI-Antworten durch Hardware um 80 Prozent zu senken. Ingenieurwesen und technischer Fortschritt. Allerdings wird Googles Engagement für die Verbesserung der Sicherheit und Genauigkeit seiner KI-Funktionen angesichts eines problematischen Starts von entscheidender Bedeutung sein, um das Vertrauen der Nutzer zurückzugewinnen.
[eingebetteter Inhalt]
Google argumentiert, dass die Mehrheit davon KI-Übersichten liefern qualitativ hochwertige Informationen und weisen darauf hin, dass viele der problematischen Beispiele ungewöhnliche Abfragen oder manipulierte Fälle sind.
Die Geschichte des Unternehmens mit Bard und Gemini deutet auf ein Muster bei der Einführung von KI-Produkten hin, die später erhebliche Anpassungen erfordern. Google hat in der Vergangenheit KI-Produkte aufgrund von Nutzerreaktionen zurückgezogen. Dieses Muster, Produkte auf den Markt zu bringen, sich Kritik zu stellen und sie dann wieder zurückzuziehen, wurde schon früher beobachtet, und es besteht kaum Hoffnung, dass sich dies angesichts des zunehmenden Drucks in einem Markt ändern wird, in dem das Unternehmen etwa zwei Jahrzehnte lang eine monopolartige Stellung innehatte.
