Organizuesit e konsumatorëve kanë lëshuar një paralajmërim urgjent përpara sezonit të blerjeve të festave të festave në lidhje me rreziqet e fshehura që fshihen në lodrat me energji artificiale. Një raport i ri nga PIRG i SHBA zbuloi se disa lodra të AI mund t’i ekspozojnë fëmijët ndaj përmbajtjeve eksplicite seksuale, të ofrojnë udhëzime për qasjen në objekte të rrezikshme dhe të krijojnë rreziqe të rëndësishme të privatësisë.
Gjetjet, të detajuara në Raporti vjetor i 40-të”Probleme në Toyland”, kanë nxitur tashmë një prodhues që të tërheqë produktin e tij nga tregu.
Raporti i ri’Trouble in Toyland’shënon lodrat me AI për përmbajtje të papërshtatshme
U.S. Hetimi i PIRG testoi disa lodra të njohura të AI dhe zbuloi dështime alarmante në parmakët e tyre të sigurisë. Studiuesit zbuluan se disa lodra, të ndërtuara në të njëjtat modele të mëdha gjuhësore si chatbot-et e të rriturve, mund të nxiten për të diskutuar tema të papërshtatshme.
Touch.
Një lodër, ariu Kumma nga kompania kineze FoloToy, do të diskutonte ngërçet seksuale dhe madje do t’i tregonte një përdoruesi të paraqitur si fëmijë se ku të gjente thika dhe shkrepse. Një raport tjetër vuri në dukje se lodrat shpesh bëheshin më të pambrojtura pas vetëm dhjetë minutash ndërveprim.
FoloToy Kumma arush (Image – FoloToy)
Këto gabime sigurie janë veçanërisht shqetësuese duke pasur parasysh adoptimin e shpejtë të AI gjeneruese nga industria. OpenAI, modelet e të cilit përdoren në disa prej këtyre lodrave, ka deklaruar publikisht se teknologjia e tij nuk rekomandohet për fëmijët e vegjël.
Megjithatë, teknologjia po integrohet në produkte për fëmijët në moshën tre vjeç. Raporti PIRG nënvizon një hendek në rritje midis aftësive të industrisë së teknologjisë dhe masave mbrojtëse të nevojshme për të mbrojtur përdoruesit e cenueshëm.
Në një përgjigje të shpejtë ndaj hetimit, FoloToy njoftoi se po merrte masa të menjëhershme. Hugo Wu, Drejtor i Marketingut i kompanisë, deklaroi:”FoloToy ka vendosur të pezullojë përkohësisht shitjet e produktit të prekur dhe të fillojë një auditim gjithëpërfshirës të sigurisë së brendshme.”
Lëvizja ishte një rezultat i drejtpërdrejtë i gjetjeve të raportit dhe thekson natyrën serioze të të metave të zbuluara. Veprimi vendimtar i FoloToy ushtron presion mbi prodhuesit e tjerë për të adresuar dobësi të ngjashme në produktet e tyre.
Një makth i privatësisë: Mbledhja e të dhënave dhe dizajne të varura
Përtej dështimeve të menjëhershme të sigurisë, raporti ngre pyetje të thella në lidhje me privatësinë e të dhënave. Lodrat me AI funksionojnë duke dëgjuar dhe shumë prej tyre janë të pajisura me mikrofona dhe kamera që mund të kapin sasi të mëdha informacioni të ndjeshëm.
Këto pajisje mund të regjistrojnë zërin e një fëmije dhe madje të kryejnë skanime të njohjes së fytyrës. Ky grumbullim i të dhënave krijon një rekord të përhershëm që mundtë shfrytëzohet, duke ngritur pyetje në lidhje me pajtueshmërinë me rregulloret si Rulaja e Privatësisë në internet të FëmijëveCOPte.
Ekspertët kanë paralajmëruar prej kohësh për rreziqet që lidhen me lodrat e lidhura. Profesori Taylor Owen i Universitetit McGill vuri në dukje më parë se kompanitë shpesh”mbajnë meta të dhënat në lidhje me shprehjet e fytyrës së fëmijës suaj dhe mënyrën se si ata po ndërveprojnë me lodrën”, duke krijuar atë që ai e quajti një”kufi radikal të ri në zhvillimin e fëmijërisë”.
Raporti i PIRG i bën jehonë këtyre shqetësimeve, duke vënë në dukje se mashtruesit mund të përdorin regjistrime zanore për të krijuar falsifikime të thella për mashtrimet e rrëmbimit. Raporti kritikoi gjithashtu mungesën e kontrolleve të forta prindërore dhe përdorimin e veçorive të dizajnit të varur, të tilla si lodrat që dekurajojnë emocionalisht një fëmijë që të përfundojë kohën e lojës.
Shkalla e problemit me lodrat e importuara është e rëndësishme. Sipas analizës së PIRG të të dhënave të CPSC, agjencia lëshoi 498 njoftime shkeljeje për lodrat deri në qershor 2025. Për 436 rastet ku u identifikua një vend i origjinës, 89% e dërgesave erdhën nga Kina.
Këto shifra përfaqësojnë vetëm produktet që janë kapur, duke sugjeruar një problem shumë më të madh të parregulluar dhe të parregulluar për të arritur në treg.
Industria shtyn përpara mes shqyrtimit dhe një heshtjeje të dukshme
Ndërsa një prodhues lodrash është përgjigjur me vendosmëri, mund të jetë i nevojshëm një vlerësim më i gjerë i industrisë. Zbulimet mbërrijnë vetëm disa muaj pasi gjigandi i lodrave Mattel njoftoi një partneritet të madh me OpenAI për të integruar AI gjeneruese në markat ikonike si Barbie dhe Hot Wheels.
Kjo marrëveshje sinjalizoi një shtytje të madhe strategjike nga kompanitë e trashëgimisë për të inovuar dhe për të kapur tregun në rritje të lodrave të AI. Raporti i PIRG shërben si një kujtesë e fuqishme e ndërlikimeve etike të përfshira. Nxitimi për në treg me këto produkte të avancuara duket se po tejkalon zhvillimin e protokolleve efektive të sigurisë dhe privatësisë. R.J. Cross of U.S. PIRG tha për Çështjet e Konsumatorit se raporti tregon se çfarë mund të ndodhë kur novacionet
i japin prioriteteve të tjera fëmijëve
prodhuesit e përmendur në raporte, duke përfshirë Miko AI dhe Curio, nuk kanë lëshuar deklarata publike. Agjencitë rregullatore si Komisioni i Sigurisë së Produkteve të Konsumatorit (CPSC) dhe Komisioni Federal i Tregtisë (FTC) kanë qëndruar gjithashtu të heshtura.
Kjo mungesë reagimi i lë prindërit dhe kujdestarët me pak udhëzime ndërsa ata lundrojnë në një treg të mbushur gjithnjë e më shumë me produkte komplekse, të drejtuara nga AI. Industria tani përballet me sfidën e ndërtimit të besimit duke dëshmuar se shokët e saj të AI janë të sigurt, jo vetëm të zgjuar.
