Khoảng một tuần trước, Google đã giới thiệu Tổng quan về AI cho Tìm kiếm, một tính năng tổng hợp các bản tóm tắt do AI tạo ra từ nhiều nguồn web khác nhau để trả lời các truy vấn của người dùng. Tính năng này, được ra mắt tại Hoa Kỳ sau hội nghị các nhà phát triển I/O 2024 của Google, đã nhanh chóng bị chỉ trích vì có nhiều thông tin thực tế không chính xác được người dùng báo cáo.
Ra mắt lần đầu dưới dạng beta vào tháng 5 năm 2023 như một phần của Tìm kiếm Trải nghiệm sáng tạo, việc triển khai Tổng quan về AI nhằm mục đích hợp lý hóa việc truy xuất thông tin người dùng, nhưng những điểm không chính xác hiện tại làm nổi bật sự phức tạp và trách nhiệm liên quan đến việc triển khai AI tổng quát trên quy mô lớn. Đảm bảo độ tin cậy và an toàn của nội dung do AI tạo ra là một thách thức đáng kể đối với Google.
Hoạt động kinh doanh cốt lõi của Google chủ yếu dựa vào tìm kiếm và quảng cáo được tạo cùng với kết quả tìm kiếm, khiến độ tin cậy của các câu trả lời do AI tạo ra trở nên quan trọng. Về mặt cá nhân, các nhân viên của Google tin rằng các câu trả lời có vấn đề là những vấn đề ngoài lề và AI nhìn chung hoạt động tốt. Việc chuyển từ kết quả tìm kiếm truyền thống sang câu trả lời do AI tạo ra thể hiện sự thay đổi đáng kể về trách nhiệm và quyền hạn mà Google đảm nhận trong việc cung cấp thông tin.
Báo cáo của người dùng nêu bật các lỗi nguy hiểm
Các nền tảng truyền thông xã hội tràn ngập các ví dụ về phản hồi kỳ lạ từ AI của Google Tổng quan, chẳng hạn như khuyên người dùng nên ăn đá. Một người dùng đã nhận được đề xuất kỳ lạ là thêm “khoảng 1/8 cốc keo không độc hại vào nước sốt” để giúp phô mai không dính vào pizza.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) Ngày 22 tháng 5 năm 2024
Một người dùng khác hỏi liệu có an toàn khi để một con chó trong ô tô nóng hay không và nhận được phản hồi tích cực, trích dẫn lời bài hát hư cấu của Beatles. Những sự cố này đã làm dấy lên mối lo ngại nghiêm trọng về độ tin cậy và an toàn của AI do AI tạo ra. nội dung.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) Ngày 23 tháng 5 năm 2024
Tiếng vang về các vấn đề ra mắt của Bard
Các vấn đề với Tổng quan về AI gợi nhớ đến những thách thức mà Google phải đối mặt với chatbot AI, Bard, ra mắt vào tháng 3 năm 2023. Bard bị chỉ trích vì thiếu các biện pháp an toàn và đạo đức phù hợp. Vào tháng 2 năm 2024, Google đã phải vô hiệu hóa tính năng tạo hình ảnh trên phiên bản kế nhiệm của Bard, Gemini, sau khi tính năng này tạo ra những hình ảnh không phù hợp về những người có tông màu da tối hơn. Google đã hứa sẽ cải tiến trước khi giới thiệu lại tính năng này, nhưng tính năng này vẫn không hoạt động.
Công ty có các kế hoạch đầy tham vọng về Tổng quan về AI, bao gồm lý luận nhiều bước cho các truy vấn phức tạp và tìm kiếm video trong Google Lens, nhưng danh tiếng hiện tại của nó đang ở mức thấp rủi ro do những vấn đề ban đầu này.
Google đang chịu áp lực phải cạnh tranh với các công cụ tìm kiếm dựa trên AI khác như Bing và công cụ tìm kiếm tiềm năng của OpenAI, cũng như các công ty khởi nghiệp AI mới như Perplexity AI, công ty cung cấp AI-dựa trên tìm kiếm trên web.
Phản hồi của Google đối với những lời chỉ trích
Google đã thừa nhận các vấn đề với Tổng quan về AI và dự kiến sẽ thực hiện các biện pháp khắc phục. Google đã vô hiệu hóa Tổng quan về AI theo cách thủ công đối với các tìm kiếm cụ thể sau khi những phản hồi bất thường này lan truyền trên mạng xã hội. Người phát ngôn của Google, Meghann Farnsworth cho biết công ty đang hành động nhanh chóng để xóa phần Tổng quan về AI đối với một số truy vấn nhất định và đang sử dụng các ví dụ này để cải thiện hệ thống của họ.
Giám đốc điều hành Google Sundar Pichai nói rằng Google đã tìm cách giảm 80% chi phí cung cấp câu trả lời AI thông qua phần cứng , kỹ thuật và tiến bộ kỹ thuật. Tuy nhiên, trong bối cảnh quá trình ra mắt gặp nhiều vấn đề, cam kết của Google trong việc cải thiện độ an toàn và độ chính xác của các tính năng AI sẽ rất cần thiết để lấy lại lòng tin của người dùng.
[nội dung nhúng]
Google lập luận rằng phần lớn AI Phần tổng quan cung cấp thông tin chất lượng cao và nhiều ví dụ có vấn đề là các truy vấn không phổ biến hoặc các trường hợp đã được xử lý.
Lịch sử của công ty với Bard và Gemini cho thấy mô hình tung ra các sản phẩm AI mà sau này cần phải có những điều chỉnh đáng kể. Google có lịch sử rút lại các sản phẩm AI sau phản ứng dữ dội của người dùng. Kiểu tung ra, đối mặt với những lời chỉ trích và sau đó rút lại sản phẩm này đã từng được quan sát thấy trước đây.
