大約一週前，Google 推出了 AI 搜尋概述，該功能可以編譯來自各種網路來源的 AI 生成的摘要來回答用戶查詢。這項功能在Google 的I/O 2024 開發者大會之後在美國推出，但很快就因用戶報告的大量事實不准確而受到批評。一部分推出測試版生成式體驗，人工智慧概述的推出旨在簡化用戶資訊檢索，但當前的不準確性凸顯了與大規模部署生成式人工智慧相關的複雜性和責任。確保人工智慧生成的內容的可靠性和安全性是Google 面臨的一項重大挑戰。的可靠性至關重要。私下里，Google員工認為有問題的答案是邊緣問題，人工智慧通常表現良好。從傳統搜尋結果到人工智慧生成答案的轉變代表了Google 在提供資訊方面所承擔的責任和權力的重大變化。/2024/05/Google-AI-Overview-answer.jpg”>
使用者回報強調危險錯誤
社群媒體平台上充斥著 Google AI 的奇怪回應範例概述，例如建議使用者吃石頭。一位用戶收到了一個奇怪的建議，建議“在醬汁中添加約1/8 杯無毒膠水”，以解決奶酪不粘在披薩上的問題。 >https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 2024 年5 月22 日
另一位用戶詢問將狗留在炎熱的汽車中是否安全，並得到了肯定的答复，並引用了虛構的披頭士樂團的歌詞。/U1wBLD67Mh”>https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— 凝固汽油彈(@napalmtrees) 2024 年5 月23 日
Bard 發布問題的迴聲
問題人工智慧概述讓人想起谷歌在2023 年3 月推出的人工智慧聊天機器人巴德(Bard) 所面臨的挑戰。 2024 年 2 月，Google不得不禁用 Bard 的繼任者 Gemini 中的圖像創建功能，因為該功能生成了膚色較深的人的不恰當圖像。此後，Google承諾在重新推出該功能之前進行改進，但仍處於不活躍狀態。 Lens 中的視頻搜索，但其目前的聲譽僅在由於這些最初的問題，谷歌面臨著與其他人工智能驅動的搜索引擎（如Bing 和OpenAI 的潛在搜索引擎）以及新的人工智能初創公司（如Perplexity AI 等）競爭的壓力，Perplexity AI 提供了人工智慧-
Google 對批評的回應
Google 已承認AI Overviews 存在問題，預計將採取糾正措施。隨著這些不尋常的反應在社交網路上傳播，谷歌已經手動禁用了特定搜尋的人工智慧概述。 Google 發言人梅根法恩斯沃斯表示公司正在迅速採取行動刪除某些查詢的AI 概述，並使用這些範例來改進他們的系統。答案的成本降低了80% 、工程和技術進步。但在發布過程中存在問題的情況下，Google 致力於提高其AI 功能的安全性和準確性對於重新獲得用戶信任至關重要。 Google 認為，大多數AI 功能概述提供了高品質的信息，並且許多有問題的示例都是不常見的查詢或被篡改的實例。一種推出人工智慧產品的模式，隨後需要進行重大調整。谷歌有因用戶強烈反對而撤回人工智慧產品的歷史。這種推出產品、面臨批評、然後撤回產品的模式以前就曾出現過。
