Pengawas pengguna telah mengeluarkan amaran segera menjelang musim membeli-belah bercuti mengenai bahaya tersembunyi yang bersembunyi di mainan berkuasa AI. Laporan baru dari PIRG A.S. mendapati bahawa beberapa mainan AI dapat mendedahkan kanak-kanak kepada kandungan seksual yang jelas, memberikan arahan untuk mengakses objek berbahaya, dan mewujudkan risiko privasi yang signifikan.
Penemuan, terperinci dalam
U.S. Siasatan PIRG menguji beberapa mainan AI yang popular dan kegagalan yang membimbangkan dalam penjaga keselamatan mereka. Penyelidik mendapati bahawa beberapa mainan, yang dibina di atas model bahasa yang sama seperti chatbots dewasa, boleh diminta untuk membincangkan topik yang tidak sesuai. Satu mainan, Bear Kumma dari syarikat Cina Folotoy, akan membincangkan kinks seksual dan bahkan memberitahu pengguna yang menyamar sebagai seorang kanak-kanak di mana untuk mencari pisau dan perlawanan. Laporan lain menyatakan bahawa mainan sering menjadi lebih baik selepas hanya sepuluh minit interaksi. Folotoy Kumma Bear (Imej-Folotoy) Keselamatan keselamatan ini terutamanya berkaitan dengan penggunaan industri AI generatif. Openai, yang modelnya digunakan dalam beberapa mainan ini, secara terbuka menyatakan teknologinya tidak disyorkan untuk anak-anak muda. Laporan PIRG menggariskan jurang yang semakin meningkat antara keupayaan industri teknologi dan perlindungan yang diperlukan untuk melindungi pengguna yang terdedah. Dalam tindak balas pantas terhadap siasatan, Folotoy mengumumkan ia mengambil tindakan segera. Hugo Wu, pengarah pemasaran syarikat, menyatakan,”Folotoy telah memutuskan untuk sementara menggantung jualan produk yang terjejas dan memulakan audit keselamatan dalaman yang komprehensif.”Tindakan penentu Folotoy memberi tekanan kepada pengeluar lain untuk menangani kelemahan yang sama dalam produk mereka sendiri. Fungsi mainan AI dengan mendengar, dan banyak yang dilengkapi dengan mikrofon dan kamera yang dapat menangkap sejumlah besar maklumat sensitif. Peranti ini boleh merakam suara kanak-kanak dan bahkan melakukan imbasan pengenalan wajah. Pengumpulan data ini mencipta rekod tetap yang cou . Pakar telah lama memberi amaran tentang risiko yang berkaitan dengan mainan yang berkaitan. Profesor Taylor Owen dari McGill University sebelum ini menyatakan bahawa syarikat sering”menjaga metadata tentang ekspresi wajah anak anda dan bagaimana mereka berinteraksi dengan mainan itu,”mewujudkan apa yang disebutnya sebagai”perbatasan baru radikal dalam pembangunan kanak-kanak.” Laporan PIRG menyuarakan kebimbangan ini, menunjukkan bahawa penipu boleh menggunakan rakaman suara untuk membuat deepfake untuk penipuan penculikan. Laporan itu juga mengkritik kekurangan kawalan ibu bapa yang mantap dan penggunaan ciri-ciri reka bentuk ketagihan, seperti mainan yang secara emosi tidak menggalakkan kanak-kanak daripada mengakhiri masa bermain. Skala masalah dengan mainan yang diimport adalah penting. Menurut analisis PIRG mengenai data CPSC, agensi itu mengeluarkan 498 notis pelanggaran untuk mainan hingga Jun 2025. Bagi 436 contoh di mana negara asal telah dikenalpasti, 89% dari penghantaran datang dari China. Di tengah-tengah pengawasan dan keheningan yang ketara
Walaupun satu toymaker telah bertindak balas dengan tegas, perhitungan industri yang lebih luas mungkin diperlukan. Wahyu-wahyu tiba hanya beberapa bulan selepas mainan gergasi Mattel mengumumkan perkongsian utama dengan OpenAI untuk mengintegrasikan AI generatif ke dalam jenama ikonik seperti Barbie dan Hot Wheels. Kerumitan etika yang terlibat. Tergesa-gesa untuk memasarkan dengan produk canggih ini nampaknya melampaui pembangunan protokol keselamatan dan privasi yang berkesan. R.J. Salib A.S. PIRG memberitahu Hal Ehwal Pengguna bahawa laporan itu menunjukkan apa yang boleh berlaku apabila Setakat ini, pengeluar lain yang dinamakan dalam laporan, termasuk Miko Ai dan Curio, belum mengeluarkan kenyataan awam. Agensi pengawalseliaan seperti Suruhanjaya Keselamatan Produk Pengguna (CPSC) dan Suruhanjaya Perdagangan Persekutuan (FTC) juga tetap diam. Industri kini menghadapi cabaran membina kepercayaan dengan membuktikan sahabat AInya selamat, bukan hanya pintar.