Consumentenwaakhonden hebben voorafgaand aan het kerstinkopenseizoen een dringende waarschuwing afgegeven over de verborgen gevaren die op de loer liggen in AI-aangedreven speelgoed. Uit een nieuw rapport van het Amerikaanse PIRG blijkt dat bepaald AI-speelgoed kinderen kan blootstellen aan seksueel expliciete inhoud, instructies kan geven over toegang tot gevaarlijke objecten en aanzienlijke privacyrisico’s kan creëren.
De bevindingen, gedetailleerd in het 40e jaarlijkse Het rapport’Trouble in Toyland’ heeft al één fabrikant ertoe aangezet zijn product van de markt te halen.
Nieuw rapport’Trouble in Toyland’markeert AI-speelgoed wegens ongepaste inhoud
VS. Het onderzoek van PIRG testte verschillende populaire AI-speeltjes en bracht alarmerende tekortkomingen in de veiligheidsleuningen aan het licht. Onderzoekers ontdekten dat bepaald speelgoed, gebouwd op dezelfde grote taalmodellen als chatbots voor volwassenen, ertoe kon worden aangezet om ongepaste onderwerpen te bespreken.
Eén speeltje, de Kumma-beer van het Chinese bedrijf FoloToy, zou seksuele knikken bespreken en zelfs een gebruiker die zich als kind voordeed, vertellen waar hij messen en lucifers kon vinden. Een ander rapport merkte op dat het speelgoed na slechts tien minuten interactie vaak onbewaakter werd.
FoloToy Kumma beer (Afbeelding – FoloToy)
Deze veiligheidstekortkomingen zijn vooral zorgwekkend gezien de snelle adoptie van generatieve AI door de industrie. OpenAI, waarvan de modellen in een aantal van dit speelgoed worden gebruikt, heeft publiekelijk verklaard dat de technologie niet wordt aanbevolen voor jonge kinderen.
Toch wordt de technologie geïntegreerd in producten voor kinderen vanaf drie jaar. Het PIRG-rapport onderstreept een groeiende kloof tussen de capaciteiten van de technologie-industrie en de waarborgen die nodig zijn om kwetsbare gebruikers te beschermen.
In een snelle reactie op het onderzoek kondigde FoloToy aan dat het onmiddellijk actie zou ondernemen. Hugo Wu, de marketingdirecteur van het bedrijf, verklaarde:”FoloToy heeft besloten de verkoop van het getroffen product tijdelijk op te schorten en een uitgebreide interne veiligheidsaudit te starten.”
Deze stap was een direct gevolg van de bevindingen van het rapport en benadrukt de ernstige aard van de ontdekte gebreken. De beslissende actie van FoloToy zet andere fabrikanten onder druk om vergelijkbare kwetsbaarheden in hun eigen producten aan te pakken.
Een privacy-nachtmerrie: gegevensverzameling en verslavende ontwerpen
Naast de onmiddellijke veiligheidsfouten roept het rapport diepgaande vragen op over gegevensprivacy. AI-speelgoed functioneert door te luisteren, en veel zijn uitgerust met microfoons en camera’s die enorme hoeveelheden gevoelige informatie kunnen vastleggen.
Deze apparaten kunnen de stem van een kind opnemen en zelfs gezichtsherkenningsscans uitvoeren. Deze gegevensverzameling creëert een permanent record dat kan worden uitgebuit, waardoor vragen rijzen over de naleving van regelgeving zoals de Children’s Online Privacy Protection Rule (COPPA).
Experts waarschuwen al lang voor de risico’s die verbonden zijn aan verbonden speelgoed. Professor Taylor Owen van McGill University merkte eerder op dat bedrijven vaak “de metadata bewaren over de gezichtsuitdrukkingen van uw kind en de manier waarop zij met het speelgoed omgaan”, waardoor wat hij een “radicale nieuwe grens in de ontwikkeling van kinderen” noemde, ontstaat.
Het rapport van PIRG weerspiegelt deze zorgen en wijst erop dat oplichters stemopnames kunnen gebruiken om deepfakes te creëren voor ontvoeringsfraude. Het rapport bekritiseerde ook het gebrek aan robuust ouderlijk toezicht en het gebruik van verslavende ontwerpkenmerken, zoals speelgoed dat een kind emotioneel ontmoedigt om de speeltijd te beëindigen.
De omvang van het probleem met geïmporteerd speelgoed is aanzienlijk. Volgens PIRG’s analyse van CPSC-gegevens heeft het agentschap tot en met juni 2025 498 kennisgevingen van overtreding voor speelgoed uitgegeven. Van de 436 gevallen waarin een land van herkomst werd geïdentificeerd, kwam 89% van de zendingen uit China.
Deze cijfers vertegenwoordigen alleen de producten die worden onderschept, wat erop duidt dat er een veel groter probleem is met ongereguleerd en onveilig speelgoed dat op de markt komt.
Industrie gaat vooruit in deze tijd. Onderzoek en een opmerkelijke stilte
Hoewel één speelgoedmaker resoluut heeft gereageerd, kan een bredere afrekening binnen de sector nodig zijn. De onthullingen komen slechts enkele maanden nadat speelgoedgigant Mattel een belangrijk partnerschap met OpenAI aankondigde om generatieve AI te integreren in iconische merken als Barbie en Hot Wheels.
Die deal betekende een grote strategische impuls van bestaande bedrijven om te innoveren en de groeiende AI-speelgoedmarkt te veroveren.
Het doel van Mattel is om “nieuwe speelvormen opnieuw uit te vinden”, maar het PIRG-rapport dient als een krachtige herinnering aan de ethische complexiteit die daarmee gepaard gaat. De haast om deze geavanceerde producten op de markt te brengen lijkt de ontwikkeling van effectieve veiligheids-en privacyprotocollen te overtreffen. R.J. Cross of U.S. PIRG vertelde aan Consumer Affairs dat het rapport laat zien wat er kan gebeuren als bedrijven prioriteit geven aan innovatie boven de veiligheid van kinderen.
Tot nu toe hebben andere fabrikanten genoemd in de rapporten, waaronder Miko AI en Curio hebben geen publieke verklaringen afgelegd. Regelgevende instanties zoals de Consumer Product Safety Commission (CPSC) en de Federal Trade Commission (FTC) hebben zich ook stilgehouden.
Dit gebrek aan reactie zorgt ervoor dat ouders en verzorgers weinig houvast hebben bij het navigeren op een markt die steeds gevulder wordt met complexe, AI-gestuurde producten. De industrie staat nu voor de uitdaging om vertrouwen op te bouwen door te bewijzen dat haar AI-partners veilig zijn en niet alleen maar slim.
