A fogyasztóvédelmi szervezetek sürgős figyelmeztetést adtak ki az ünnepi vásárlási szezon előtt a mesterséges intelligenciával hajtott játékokra leselkedő rejtett veszélyek miatt. Az amerikai PIRG új jelentése szerint egyes mesterséges intelligencia-játékok kitehetik a gyerekeket nyíltan szexuális tartalomnak, útmutatást adhatnak a veszélyes tárgyakhoz való hozzáféréshez, és jelentős adatvédelmi kockázatot jelentenek.
A megállapítások a következő helyen találhatók: 40. éves „Trouble in Toyland” jelentés, már arra késztetett egy gyártót, hogy kivonja termékét a piacról.
Az új „Trouble in Toyland” jelentés a mesterséges intelligencia játékait megjelöli nem megfelelő tartalom miatt
U.S. A PIRG vizsgálata számos népszerű mesterséges intelligencia-játékot tesztelt, és riasztó hibákat tárt fel a biztonsági védőkorlátjaikban. A kutatók felfedezték, hogy egyes játékok, amelyek ugyanazokra a nagy nyelvi modellekre épülnek, mint a felnőtt chatbotok, nem megfelelő témák megvitatására késztethetnek.
Az egyik játék, a kínai FoloToy cég Kumma medve, megbeszélte a szexuális csavarodásokat, és még azt is megmondta a gyereknek pózoló felhasználónak, hogy hol találhat kést és gyufát. Egy másik jelentés megjegyezte, hogy a játékok már tíz percnyi interakció után gyakran védtelenebbé váltak.
FoloToy Kumma bear (Image – FoloToy)
Ezek a biztonsági hiányosságok különösen aggasztóak, tekintettel a generatív mesterséges intelligencia iparági gyors elfogadására. Az OpenAI, amelynek modelljeit e játékok némelyikében használják, nyilvánosan kijelentette, hogy technológiáját nem ajánlják kisgyermekek számára.
A technológiát azonban már három éves korú gyerekeknek szánt termékekbe integrálják. A PIRG-jelentés rávilágít a technológiai iparág képességei és a sebezhető felhasználók védelméhez szükséges biztosítékok közötti növekvő szakadékra.
A vizsgálatra adott gyors válaszként a FoloToy bejelentette, hogy azonnali lépéseket tesz. Hugo Wu, a vállalat marketing igazgatója kijelentette: „A FoloToy úgy döntött, hogy ideiglenesen felfüggeszti az érintett termék értékesítését, és átfogó belső biztonsági auditot kezd.”
A lépés a jelentés megállapításainak közvetlen következménye, és rávilágít a feltárt hibák súlyosságára. A FoloToy határozott fellépése nyomást gyakorol a többi gyártóra, hogy foglalkozzanak a saját termékeikben lévő hasonló sebezhetőségekkel.
A Privacy Nightmare: Adatgyűjtés és addiktív tervezés
Az azonnali biztonsági hibákon túl a jelentés mélyreható kérdéseket vet fel az adatvédelemmel kapcsolatban. A mesterséges intelligencia játékok hallgatással működnek, és sokuk mikrofonnal és kamerával van felszerelve, amelyek hatalmas mennyiségű érzékeny információt rögzíthetnek.
Ezek az eszközök rögzíthetik a gyermekek hangját, és még arcfelismerő vizsgálatokat is végezhetnek. Ez az adatgyűjtés állandó rekordot hoz létre, amelyet ki lehet használni, ami kérdéseket vet fel az olyan szabályozásoknak való megfeleléssel kapcsolatban, mint például a Children’s Online Privacy Protection Rule. a csatlakoztatott játékokkal kapcsolatos kockázatokról. Taylor Owen, a McGill Egyetem professzora korábban megjegyezte, hogy a vállalatok gyakran „megőrzik a metaadatokat a gyermek arckifejezéseiről és arról, hogy hogyan lépnek kapcsolatba a játékkal”, így létrehozva az általa „radikálisan új határt a gyermekkori fejlődésben”.
A PIRG jelentése megismétli ezeket az aggodalmakat, rámutatva arra, hogy a csalók hangfelvételeket használhatnak mélyhamisítványok létrehozására emberrablási csalásokhoz. A jelentés emellett bírálta a szilárd szülői felügyelet hiányát és az addiktív tervezési jellemzők használatát, mint például a játékok, amelyek érzelmileg elriasztják a gyermeket attól, hogy véget vessen a játéknak.
Az importált játékokkal kapcsolatos probléma mértéke jelentős. A PIRG CPSC-adatok elemzése szerint az ügynökség 2025 júniusáig 498 szabálysértési értesítést adott ki játékokkal kapcsolatban. Abban a 436 esetben, amikor azonosították a származási országot, a szállítmányok 89%-a Kínából érkezett.
Ezek a számok csak az elkapott termékeket mutatják, ami sokkal nagyobb problémára utal a szabályozatlan és a piac nem biztonságos elérésével kapcsolatban. Előretör a vizsgálat és a figyelemre méltó csend közepette
Bár egy játékgyártó határozottan reagált, szélesebb iparági számításra lehet szükség. A leleplezések alig néhány hónappal azután érkeztek meg, hogy a Mattel játékóriás jelentős együttműködést jelentett be az OpenAI-val, hogy a generatív mesterséges intelligenciát integrálja olyan ikonikus márkákba, mint a Barbie és a Hot Wheels.
Az üzlet jelentős stratégiai lökést jelentett a régi cégek részéről a növekvő mesterséges intelligencia-játékpiac innovációja és megszerzése érdekében.
A Mattel célja, hogy a „reimag report” új formája legyen, mint a PIRG játék emlékeztetője. az ezzel járó etikai bonyolultságról. Úgy tűnik, hogy ezekkel a fejlett termékekkel a piacra rohanás meghaladja a hatékony biztonsági és adatvédelmi protokollok fejlesztését. R.J. A Cross of U.S. PIRG azt mondta a Consumer Affairs-nek, hogy a jelentés bemutatja, mi történhet, ha a vállalatok helyezik előtérbe. a jelentésekben, beleértve a Miko AI-t és a Curio-t, nem adtak ki nyilvános nyilatkozatokat. Az olyan szabályozó ügynökségek, mint a Fogyasztói Termékbiztonsági Bizottság (CPSC) és a Szövetségi Kereskedelmi Bizottság (FTC) szintén hallgattak.
A válaszok hiánya miatt a szülők és gondozók kevés útmutatást kapnak, miközben egyre inkább összetett, mesterséges intelligencia-vezérelt termékekkel teli piacon navigálnak. Az iparág most azzal a kihívással néz szembe, hogy bizalmat építsen azáltal, hogy bebizonyítja, hogy mesterséges intelligencia társai biztonságban vannak, nem csak okosak.
