消費者監管機構在假日購物季來臨之前就人工智能玩具中潛藏的隱患發出緊急警告。美國 PIRG 的一份新報告發現，一些人工智能玩具可能會讓兒童接觸露骨的色情內容，提供有關訪問危險物品的說明，並造成嚴重的隱私風險。
該調查結果詳見40th年度“玩具城麻煩”報告，已促使一家製造商將其產品撤出市場。
新的“玩具樂園麻煩”報告標記人工智能玩具存在不當內容
美國PIRG 的調查測試了幾種流行的人工智能玩具，發現其安全護欄存在令人震驚的故障。研究人員發現，一些建立在與成人聊天機器人相同的大型語言模型之上的玩具可能會被提示討論不適當的話題。
中國公司 FoloToy 的一款玩具 Kumma 熊會討論性怪癖，甚至告訴冒充兒童的用戶在哪裡可以找到刀具和火柴。另一份報告指出，這些玩具在短短十分鐘的互動後往往變得更加無人看管。
FoloToy Kumma 熊（圖片 – FoloToy）
鑑於該行業快速採用生成式人工智能，這些安全漏洞尤其令人擔憂。 OpenAI 的模型被用於其中一些玩具中，該公司已公開表示不建議幼兒使用其技術。
然而，該技術正在被集成到針對三歲以下兒童的產品中。 PIRG 報告強調了科技行業的能力與保護弱勢用戶所需的保障措施之間日益擴大的差距。
在對調查做出迅速回應時，FoloToy 宣布將立即採取行動。該公司營銷總監 Hugo Wu 表示:“FoloToy 決定暫時停止銷售受影響的產品，並開始全面的內部安全審核。”
此舉是報告調查結果的直接結果，凸顯了所發現缺陷的嚴重性。 FoloToy 的果斷行動給其他製造商帶來了壓力，要求他們解決自己產品中的類似漏洞。
隱私噩夢:數據收集和令人上癮的設計
除了直接的安全故障之外，該報告還提出了有關數據隱私的深刻問題。人工智能玩具通過聆聽來發揮作用，許多玩具都配備了麥克風和攝像頭，可以捕獲大量敏感信息。
這些設備可以記錄孩子的聲音，甚至可以進行面部識別掃描。此數據收集創建了一個可能可能被利用的永久記錄，引發了有關遵守《兒童在線隱私保護規則》(COPPA) 等法規的問題。
專家長期以來一直對聯網玩具的相關風險發出警告。麥吉爾大學的泰勒·歐文教授此前指出，公司經常“保留有關孩子麵部表情以及他們如何與玩具互動的元數據”，創造了他所謂的“兒童發展的激進新領域”。
PIRG 的報告呼應了這些擔憂，指出詐騙者可以利用錄音來製作深度偽造品，用於綁架詐騙。該報告還批評了缺乏強有力的家長控制以及使用令人上癮的設計功能，例如在情感上阻止孩子結束遊戲時間的玩具。
進口玩具的問題規模很嚴重。根據 PIRG 對 CPSC 數據的分析，截至 2025 年 6 月，該機構發布了 498 份玩具違規通知。在 436 起已確定原產國的案例中，89% 的貨物來自中國。
這些數字僅代表被查獲的產品，表明進入市場的不受監管和不安全的玩具問題更大。
行業在審查和監管下向前發展。值得注意的沉默
雖然一家玩具製造商做出了果斷的回應，但可能需要進行更廣泛的行業清算。就在幾個月前，玩具巨頭美泰宣布與 OpenAI 建立重大合作夥伴關係，將生成人工智能整合到芭比和風火輪等標誌性品牌中。
該交易標誌著傳統公司為創新和占領不斷增長的人工智能玩具市場而採取的重大戰略推動。
美泰的目標是“重新構想新的遊戲形式”，但 PIRG 報告有力地提醒了人們所涉及的道德複雜性。這些先進產品推向市場的速度似乎超過了有效安全和隱私協議的開發速度。 R.J.美國 PIRG 的 Cross 告訴消費者事務部，該報告顯示了當公司將創新置於兒童安全之上時會發生什麼。
到目前為止，報告中提到的其他製造商，包括 Miko AI 和Curio尚未發表公開聲明。消費品安全委員會 (CPSC) 和聯邦貿易委員會 (FTC) 等監管機構也保持沉默。
缺乏回應使得父母和看護者在日益充滿複雜的人工智能驅動產品的市場中缺乏指導。該行業現在面臨著建立信任的挑戰，需要證明其人工智能夥伴是安全的，而不僅僅是智能的。
