Các cơ quan giám sát người tiêu dùng đã đưa ra cảnh báo khẩn cấp trước mùa mua sắm nghỉ lễ về những mối nguy hiểm tiềm ẩn ẩn chứa trong đồ chơi hỗ trợ AI. Một báo cáo mới của PIRG Hoa Kỳ cho thấy một số đồ chơi AI có thể khiến trẻ em tiếp xúc với nội dung khiêu dâm, cung cấp hướng dẫn cách tiếp cận các đồ vật nguy hiểm và tạo ra những rủi ro đáng kể về quyền riêng tư.
Các phát hiện này được trình bày chi tiết trong Sự cố thường niên lần thứ 40″> Báo cáo của Toyland”, đã khiến một nhà sản xuất rút sản phẩm của mình khỏi thị trường.
Báo cáo’Sự cố ở Toyland’mới gắn cờ Đồ chơi AI có nội dung không phù hợp
U.S. Cuộc điều tra của PIRG đã thử nghiệm một số đồ chơi AI phổ biến và phát hiện ra những sai sót đáng báo động trong các thanh chắn an toàn của chúng. Các nhà nghiên cứu phát hiện ra rằng một số đồ chơi, được xây dựng trên cùng mô hình ngôn ngữ lớn như chatbot dành cho người lớn, có thể được nhắc thảo luận về các chủ đề không phù hợp.
Một món đồ chơi, chú gấu Kumma của công ty FoloToy của Trung Quốc, sẽ thảo luận về những vấn đề tình dục và thậm chí còn nói cho người dùng đóng giả trẻ em nơi tìm dao và diêm. Một báo cáo khác lưu ý rằng đồ chơi thường trở nên không được bảo vệ hơn chỉ sau mười phút tương tác.
Gấu FoloToy Kumma (Hình ảnh – FoloToy)
Những sai sót về an toàn này đặc biệt đáng lo ngại do ngành này đang áp dụng nhanh chóng AI sáng tạo. OpenAI, công ty có mô hình được sử dụng trong một số đồ chơi này, đã công khai tuyên bố rằng công nghệ của họ không được khuyến khích cho trẻ nhỏ.
Tuy nhiên, công nghệ này đang được tích hợp vào các sản phẩm dành cho trẻ từ ba tuổi. Báo cáo của PIRG nhấn mạnh khoảng cách ngày càng tăng giữa khả năng của ngành công nghệ và các biện pháp bảo vệ cần thiết để bảo vệ những người dùng dễ bị tổn thương.
Để phản ứng nhanh chóng với cuộc điều tra, FoloToy tuyên bố họ sẽ hành động ngay lập tức. Hugo Wu, Giám đốc Tiếp thị của công ty, cho biết: “FoloToy đã quyết định tạm thời đình chỉ việc bán sản phẩm bị ảnh hưởng và bắt đầu một cuộc kiểm tra an toàn nội bộ toàn diện”.
Động thái này là kết quả trực tiếp từ những phát hiện trong báo cáo và nêu bật tính chất nghiêm trọng của những sai sót chưa được phát hiện. Hành động quyết đoán của FoloToy gây áp lực lên các nhà sản xuất khác trong việc giải quyết các lỗ hổng tương tự trong sản phẩm của chính họ.
Cơn ác mộng về quyền riêng tư: Thu thập dữ liệu và các thiết kế gây nghiện
Ngoài những lỗi an toàn trước mắt, báo cáo còn đặt ra những câu hỏi sâu sắc về quyền riêng tư dữ liệu. Đồ chơi AI hoạt động bằng cách lắng nghe và nhiều đồ chơi được trang bị micrô và máy ảnh có thể thu thập lượng lớn thông tin nhạy cảm.
Những thiết bị này có thể ghi lại giọng nói của trẻ và thậm chí thực hiện quét nhận dạng khuôn mặt. Việc thu thập dữ liệu này tạo ra một bản ghi vĩnh viễn mà có thểcó thể bị khai thác, từ đó đặt ra câu hỏi về việc tuân thủ các quy định như Quy tắc bảo vệ quyền riêng tư trực tuyến của trẻ em (COPPA).
Các chuyên gia từ lâu đã cảnh báo về những rủi ro liên quan đến đồ chơi được kết nối. Giáo sư Taylor Owen của Đại học McGill trước đây đã lưu ý rằng các công ty thường “lưu giữ siêu dữ liệu về nét mặt của con bạn và cách chúng tương tác với đồ chơi”, tạo ra cái mà ông gọi là “biên giới hoàn toàn mới trong quá trình phát triển thời thơ ấu”.
Báo cáo của PIRG lặp lại những lo ngại này, chỉ ra rằng những kẻ lừa đảo có thể sử dụng bản ghi âm giọng nói để tạo ra các bản deepfake cho các vụ lừa đảo bắt cóc. Báo cáo cũng chỉ trích việc thiếu sự kiểm soát mạnh mẽ của phụ huynh và việc sử dụng các tính năng thiết kế gây nghiện, chẳng hạn như đồ chơi khiến trẻ không muốn kết thúc giờ chơi về mặt cảm xúc.
Quy mô của vấn đề với đồ chơi nhập khẩu là rất đáng kể. Theo phân tích của PIRG về dữ liệu CPSC, cơ quan này đã đưa ra 498 thông báo vi phạm đối với đồ chơi cho đến tháng 6 năm 2025. Đối với 436 trường hợp có quốc gia xuất xứ được xác định, 89% lô hàng đến từ Trung Quốc.
Những con số này chỉ đại diện cho các sản phẩm bị bắt, cho thấy vấn đề lớn hơn nhiều là đồ chơi không được kiểm soát và không an toàn tiếp cận thị trường.
Ngành công nghiệp đang tiến lên trong bối cảnh bị giám sát chặt chẽ và đáng chú ý Im lặng
Trong khi một nhà sản xuất đồ chơi đã phản ứng dứt khoát, thì có thể cần phải có sự tính toán rộng hơn trong toàn ngành. Những tiết lộ này xuất hiện chỉ vài tháng sau khi gã khổng lồ đồ chơi Mattel công bố mối quan hệ hợp tác lớn với OpenAI để tích hợp AI sáng tạo vào các thương hiệu mang tính biểu tượng như Barbie và Hot Wheels.
Thỏa thuận đó báo hiệu một nỗ lực chiến lược lớn của các công ty truyền thống nhằm đổi mới và nắm bắt thị trường đồ chơi AI đang phát triển.
Mục tiêu của Mattel là “hình dung lại các hình thức chơi mới”, nhưng báo cáo của PIRG đóng vai trò như một lời nhắc nhở mạnh mẽ về sự phức tạp về mặt đạo đức liên quan. Sự vội vã tung ra thị trường những sản phẩm tiên tiến này dường như đang vượt xa sự phát triển của các giao thức bảo mật và an toàn hiệu quả. R.J. Cross of U.S. PIRG nói với Consumer Afs rằng báo cáo cho thấy điều gì có thể xảy ra khi các công ty ưu tiên đổi mới vì an toàn cho trẻ em.
Cho đến nay, các nhà sản xuất khác có tên trong báo cáo, bao gồm Miko AI và Curio, vẫn chưa đã đưa ra các tuyên bố công khai. Các cơ quan quản lý như Ủy ban An toàn Sản phẩm Tiêu dùng (CPSC) và Ủy ban Thương mại Liên bang (FTC) cũng vẫn giữ im lặng.
Việc thiếu phản hồi này khiến các bậc cha mẹ và người chăm sóc không có nhiều hướng dẫn khi họ điều hướng trong một thị trường ngày càng tràn ngập các sản phẩm phức tạp do AI điều khiển. Ngành hiện phải đối mặt với thách thức xây dựng niềm tin bằng cách chứng minh các đối tác AI của mình là an toàn chứ không chỉ thông minh.
