Google mạnh mẽ thúc đẩy tích hợp AI vào các sản phẩm của mình đang tấn công một số đường đi. Một lỗi lớn trong Gmail đang tích cực thay đổi nội dung của các email tiếng Đức mà không có sự đồng ý của người dùng. Gemini AI xác định sai văn bản tiếng Đức là tiếng Anh và sau đó dịch”nó trở lại, giới thiệu các lỗi kỳ quái và gây tổn hại.
lỗ hổng là
. Trong một bản tin-văn bản về cuộc chiến ở Ukraine đã thay đổi, Ukrainische Stellungen”(các vị trí của Ukraine) thành Hồi Amerikanische Stellungen”(các vị trí của Mỹ). Florian Harms, tổng biên tập của T-Online, đã lưu ý đến tác động nghiêm trọng đến uy tín, nêu rõ, đối với danh tiếng báo chí và uy tín của các phương tiện truyền thông nghiêm trọng, các thao tác văn bản như vậy là tàn phá.”Vấn đề trở nên đáng báo động đến nỗi nó gây ra những lo ngại nội bộ của một cuộc tấn công mạng tiềm năng trước khi nguyên nhân thực sự được xác định. Điều này kích hoạt một quá trình dịch vô nghĩa. Là một chuyên gia từ Trung tâm nghiên cứu AI (DFKI) của Đức đã giải thích, nếu một mô hình bị buộc phải dịch từ tiếng Đức sang tiếng Đức, điều này tất nhiên nó không được đào tạo để làm, nó có thể ảo giác.”Điều ảo giác này”dẫn đến kết quả không thể đoán trước. Sau khi T-Online lần đầu tiên báo cáo vấn đề vào tháng Năm, các bản sửa lỗi ban đầu của Google vào đầu tháng 6 đã không giải quyết được vấn đề cơ bản. Các bản vá đã sửa các ví dụ được báo cáo cụ thể nhưng không giải quyết được lỗ hổng logic cốt lõi, cho phép các lỗi mới, khác nhau xuất hiện. Một đại diện CNTT nói với Google, có vẻ như nhóm phát triển chỉ đơn thuần đặt một thạch cao lên vết thương mà không sửa chữa nguyên nhân thực sự.”Đó là cho đến một cuộc họp vào ngày 30 tháng 6, Google đã thừa nhận một giải pháp toàn diện hơn là trong các tác phẩm.
Google đã công khai đóng khung vấn đề là hoàn toàn kỹ thuật. Một phát ngôn viên giấu tên cho công ty đã tuyên bố, chúng tôi tin rằng đây là một vấn đề kỹ thuật”, loại trừ bất kỳ sự thao túng có chủ ý nào. Tuy nhiên, việc xử lý lỗi của công ty đã thu hút sự giám sát vì thiếu giao tiếp chủ động với người dùng và nhà xuất bản bị ảnh hưởng. Nhiều người dùng, theo báo cáo của T-Online, thậm chí còn không biết rằng họ đã kích hoạt tính năng này, đặt ra câu hỏi về sự đồng ý và minh bạch của người dùng. Nó xảy ra giống như Google đang tăng gấp đôi khi nhúng Gemini trên bộ không gian làm việc của mình. Các bản cập nhật gần đây bao gồm tóm tắt email tự động trong Gmail và sự tích hợp của các trợ lý AI tùy chỉnh”AI vào các ứng dụng như tài liệu và tờ. Như Ron Richards của Android Faithful Podcast