Około tydzień temu firma Google wprowadziła Przeglądy sztucznej inteligencji dla wyszukiwania – funkcję, która kompiluje podsumowania wygenerowane przez sztuczną inteligencję z różnych źródeł internetowych w celu odpowiedzi na zapytania użytkowników. Ta funkcja, wprowadzona w Stanach Zjednoczonych po konferencji programistów Google I/O 2024, szybko spotkała się z krytyką z powodu licznych nieścisłości w faktach zgłaszanych przez użytkowników.
Początkowo uruchomiono w wersji beta w maju 2023 r. jako część wyszukiwarki W ramach doświadczenia generatywnego wdrożenie przeglądów sztucznej inteligencji ma na celu usprawnienie wyszukiwania informacji o użytkownikach, ale obecne nieścisłości uwydatniają złożoność i obowiązki związane z wdrażaniem generatywnej sztucznej inteligencji na dużą skalę. Zapewnienie niezawodności i bezpieczeństwa treści generowanych przez sztuczną inteligencję jest poważnym wyzwaniem dla Google.
Podstawowa działalność Google w dużym stopniu opiera się na wyszukiwaniu i reklamach generowanych obok wyników wyszukiwania, dlatego niezawodność odpowiedzi generowanych przez sztuczną inteligencję ma kluczowe znaczenie. Prywatnie pracownicy Google uważają, że problematyczne odpowiedzi są kwestiami marginalnymi i że sztuczna inteligencja ogólnie radzi sobie dobrze. Przejście od tradycyjnych wyników wyszukiwania do odpowiedzi generowanych przez sztuczną inteligencję oznacza znaczącą zmianę w zakresie odpowiedzialności i uprawnień, jakie Google przyjmuje na siebie w zakresie dostarczania informacji.
Raporty użytkowników podkreślają niebezpieczne błędy
Platformy mediów społecznościowych zostały zalane przykładami dziwacznych reakcji sztucznej inteligencji Google Omówienie, np. doradzanie użytkownikom, aby jedli kamienie. Jeden z użytkowników otrzymał dziwną sugestię, aby dodać „około 1/8 szklanki nietoksycznego kleju do sosu”, aby naprawić ser, który nie przykleja się do pizzy.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 maja 2024
Inny użytkownik zapytał, czy można bezpiecznie zostawić psa w nagrzanym samochodzie, i otrzymał odpowiedź twierdzącą, powołując się na fikcyjne teksty Beatlesów. Te incydenty wzbudziły poważne obawy co do niezawodności i bezpieczeństwa generowanego przez sztuczną inteligencję treść.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) 23 maja 2024
Problemy z premierą Echoes of Bard
Problemy z AI Przeglądy przypominają wyzwania, przed którymi stanął Google w związku ze swoim chatbotem AI Bard, który został uruchomiony w marcu 2023 r. Bard był krytykowany za brak odpowiednich środków bezpieczeństwa i etyki. W lutym 2024 r. Google musiało wyłączyć funkcję tworzenia obrazów w następcy Barda, Gemini, po tym, jak generowała ona nieodpowiednie zdjęcia osób o ciemniejszych odcieniach skóry. Od tego czasu Google obiecał ulepszenia przed ponownym wprowadzeniem tej funkcji, ale pozostaje ona nieaktywna.
Firma ma ambitne plany dotyczące przeglądów sztucznej inteligencji, obejmujące wieloetapowe rozumowanie w przypadku złożonych zapytań i wyszukiwanie wideo w Google Lens, ale jej obecna reputacja jest na poziomie ryzyko z powodu tych początkowych problemów.
Google znajduje się pod presją, aby konkurować z innymi wyszukiwarkami opartymi na sztucznej inteligencji, takimi jak Bing i potencjalna wyszukiwarka OpenAI, a także z nowymi start-upami AI, takimi jak Perplexity AI, które oferują technologię AI-oparte na wyszukiwarce internetowej.
Reakcja Google na krytykę
Firma Google potwierdziła problemy z przeglądami sztucznej inteligencji i oczekuje się, że podejmie działania naprawcze. W związku z rozpowszechnieniem się tych nietypowych odpowiedzi w sieciach społecznościowych Google ręcznie wyłączał przeglądy AI dla określonych wyszukiwań. Rzeczniczka Google Meghann Farnsworth powiedziała, że firma podejmuje szybkie działania aby usunąć przeglądy sztucznej inteligencji dla niektórych zapytań i wykorzystuje te przykłady do ulepszenia swoich systemów.
dyrektor generalny Google, Sundar Pichai, twierdzi, że firmie Google udało się obniżyć koszty dostarczania odpowiedzi sztucznej inteligencji o 80 procent za pośrednictwem sprzętu , inżynierii i postępu technicznego. Jednak w obliczu problematycznej premiery zaangażowanie Google w poprawę bezpieczeństwa i dokładności funkcji sztucznej inteligencji będzie miało kluczowe znaczenie dla odzyskania zaufania użytkowników.
[treść osadzona]Google twierdzi, że większość sztucznej inteligencji Przeglądy dostarczają informacji wysokiej jakości, a wiele problematycznych przykładów to nietypowe zapytania lub spreparowane przypadki.
Historia firmy z Bard i Gemini sugeruje schemat wprowadzania na rynek produktów AI, który później wymaga znacznych dostosowań. Google ma historię wycofywania produktów AI po reakcjach użytkowników. Ten schemat wprowadzania na rynek produktów, spotykania się z krytyką, a następnie wycofywania produktów zaobserwowano już wcześniej.
