Οι φύλακες καταναλωτών εξέδωσαν επείγουσα προειδοποίηση ενόψει της εορταστικής περιόδου αγορών σχετικά με τους κρυμμένους κινδύνους που ελλοχεύουν στα παιχνίδια που λειτουργούν με τεχνητή νοημοσύνη. Μια νέα έκθεση από το U.S. PIRG διαπίστωσε ότι ορισμένα παιχνίδια τεχνητής νοημοσύνης μπορούν να εκθέσουν τα παιδιά σε άσεμνο σεξουαλικό περιεχόμενο, να παρέχουν οδηγίες για την πρόσβαση σε επικίνδυνα αντικείμενα και να δημιουργήσουν σημαντικούς κινδύνους για την προστασία του απορρήτου.
Τα ευρήματα, αναλυτικά στο 40η ετήσια αναφορά”Πρόβλημα στην Toyland”, έχουν ήδη ζητήσει από έναν κατασκευαστή να αποσύρει το προϊόν του από την αγορά.
Η νέα αναφορά”Προβλήματα στην Toyland”επισημαίνει τα παιχνίδια AI για ακατάλληλο περιεχόμενο
Η.Π.Α. Η έρευνα του PIRG εξέτασε αρκετά δημοφιλή παιχνίδια τεχνητής νοημοσύνης και αποκάλυψε ανησυχητικές αστοχίες στα προστατευτικά κιγκλιδώματα τους. Οι ερευνητές ανακάλυψαν ότι ορισμένα παιχνίδια, χτισμένα στα ίδια μεγάλα μοντέλα γλώσσας με τα chatbot για ενήλικες, θα μπορούσαν να ζητηθούν να συζητήσουν ακατάλληλα θέματα.
Ένα παιχνίδι, η αρκούδα Kumma από την κινεζική εταιρεία FoloToy, θα συζητούσε τις σεξουαλικές αποκλίσεις και θα έλεγε ακόμη και σε έναν χρήστη που υποδυόταν παιδί πού να βρει μαχαίρια και σπίρτα. Μια άλλη αναφορά σημείωσε ότι τα παιχνίδια συχνά γίνονταν πιο αφύλακτα μετά από μόλις δέκα λεπτά αλληλεπίδρασης.
FoloToy Kumma bear (Εικόνα – FoloToy)
Αυτά τα κενά ασφάλειας είναι ιδιαίτερα ανησυχητικά δεδομένης της ταχείας υιοθέτησης της γενετικής τεχνητής νοημοσύνης από τη βιομηχανία. Το OpenAI, τα μοντέλα του οποίου χρησιμοποιούνται σε ορισμένα από αυτά τα παιχνίδια, έχει δηλώσει δημόσια ότι η τεχνολογία του δεν συνιστάται για μικρά παιδιά.
Ωστόσο, η τεχνολογία ενσωματώνεται σε προϊόντα για παιδιά ηλικίας έως τριών ετών. Η έκθεση PIRG υπογραμμίζει ένα αυξανόμενο χάσμα μεταξύ των δυνατοτήτων της βιομηχανίας τεχνολογίας και των διασφαλίσεων που απαιτούνται για την προστασία των ευάλωτων χρηστών.
Σε μια ταχεία απάντηση στην έρευνα, η FoloToy ανακοίνωσε ότι λαμβάνει άμεσα μέτρα. Ο Hugo Wu, Διευθυντής Μάρκετινγκ της εταιρείας, δήλωσε:”Η FoloToy αποφάσισε να αναστείλει προσωρινά τις πωλήσεις του επηρεαζόμενου προϊόντος και να ξεκινήσει έναν ολοκληρωμένο εσωτερικό έλεγχο ασφάλειας.”
Η κίνηση ήταν άμεσο αποτέλεσμα των ευρημάτων της έκθεσης και υπογραμμίζει τη σοβαρή φύση των ακάλυπτων ελαττωμάτων. Η αποφασιστική δράση της FoloToy ασκεί πίεση σε άλλους κατασκευαστές να αντιμετωπίσουν παρόμοια τρωτά σημεία στα δικά τους προϊόντα.
A Privacy Nightmare: Data Collection and Addictive Designs
Πέρα από τις άμεσες αστοχίες ασφάλειας, η έκθεση εγείρει βαθιά ερωτήματα σχετικά με το απόρρητο δεδομένων. Τα παιχνίδια τεχνητής νοημοσύνης λειτουργούν με ακρόαση και πολλά είναι εξοπλισμένα με μικρόφωνα και κάμερες που μπορούν να καταγράψουν τεράστιες ποσότητες ευαίσθητων πληροφοριών.
Αυτές οι συσκευές μπορούν να καταγράφουν τη φωνή ενός παιδιού και ακόμη και να κάνουν σαρώσεις αναγνώρισης προσώπου. Αυτή η συλλογή δεδομένων δημιουργεί ένα μόνιμο αρχείο πουθα μπορούσε να εκμεταλλευτεί, εγείροντας ερωτήματα σχετικά με τη συμμόρφωση με κανονισμούς όπως το Children’s Online Privacy RuleCOP.
Οι ειδικοί έχουν προειδοποιήσει εδώ και καιρό για τους κινδύνους που συνδέονται με τα συνδεδεμένα παιχνίδια. Ο καθηγητής Taylor Owen του πανεπιστημίου McGill σημείωσε προηγουμένως ότι οι εταιρείες συχνά «διατηρούν τα μεταδεδομένα σχετικά με τις εκφράσεις του προσώπου του παιδιού σας και τον τρόπο με τον οποίο αλληλεπιδρά με το παιχνίδι», δημιουργώντας αυτό που ονόμασε ένα «ριζικό νέο σύνορο στην παιδική ανάπτυξη».
Η αναφορά του PIRG απηχεί αυτές τις ανησυχίες, επισημαίνοντας ότι οι απατεώνες θα μπορούσαν να χρησιμοποιήσουν ηχογραφήσεις φωνής για να δημιουργήσουν deepfakes για απάτες απαγωγής. Η έκθεση επέκρινε επίσης την έλλειψη ισχυρών γονικών ελέγχων και τη χρήση εθιστικών σχεδιαστικών χαρακτηριστικών, όπως παιχνίδια που αποθαρρύνουν συναισθηματικά ένα παιδί από το να τελειώσει το χρόνο του παιχνιδιού.
Η κλίμακα του προβλήματος με τα εισαγόμενα παιχνίδια είναι σημαντική. Σύμφωνα με την ανάλυση των δεδομένων CPSC από το PIRG, ο οργανισμός εξέδωσε 498 ειδοποιήσεις παραβίασης για παιχνίδια έως τον Ιούνιο του 2025. Για τις 436 περιπτώσεις όπου εντοπίστηκε χώρα προέλευσης, το 89% των αποστολών προήλθε από την Κίνα.
Αυτά τα στοιχεία αντιπροσωπεύουν μόνο τα προϊόντα που αλιεύονται, υποδηλώνοντας ένα πολύ μεγαλύτερο πρόβλημα που δεν ρυθμίζεται στην αγορά.
Η βιομηχανία προωθεί εν μέσω ελέγχου και αξιοσημείωτης σιωπής
Ενώ ένας κατασκευαστής παιχνιδιών έχει ανταποκριθεί αποφασιστικά, μπορεί να είναι απαραίτητος ένας ευρύτερος απολογισμός του κλάδου. Οι αποκαλύψεις φτάνουν μόλις μήνες αφότου ο γίγαντας παιχνιδιών Mattel ανακοίνωσε μια σημαντική συνεργασία με την OpenAI για την ενσωμάτωση της γενετικής τεχνητής νοημοσύνης σε εμβληματικές μάρκες όπως η Barbie και η Hot Wheels.
Αυτή η συμφωνία σηματοδότησε μια μεγάλη στρατηγική ώθηση από παλαιές εταιρείες να καινοτομήσουν και να κατακτήσουν την αυξανόμενη αγορά παιχνιδιών τεχνητής νοημοσύνης. Η έκθεση PIRG χρησιμεύει ως ισχυρή υπενθύμιση των ηθικών περιπλοκών που εμπλέκονται. Η βιασύνη στην αγορά με αυτά τα προηγμένα προϊόντα φαίνεται να ξεπερνά την ανάπτυξη αποτελεσματικών πρωτοκόλλων ασφάλειας και απορρήτου. R.J. Η Cross of U.S. PIRG είπε στο Consumer Affairs ότι η έκθεση δείχνει τι μπορεί να συμβεί όταν οι καινοτομίες
προτεραιοποιούνται από τις εταιρείες
οι εταιρείες δίνουν προτεραιότητα σε σχέση με την ασφάλεια Οι κατασκευαστές που κατονομάζονται στις αναφορές, συμπεριλαμβανομένων των Miko AI και Curio, δεν έχουν εκδώσει δημόσιες δηλώσεις. Ρυθμιστικοί φορείς όπως η Επιτροπή Ασφάλειας Καταναλωτικών Προϊόντων (CPSC) και η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) παρέμειναν επίσης σιωπηλοί.
Αυτή η έλλειψη ανταπόκρισης αφήνει τους γονείς και τους φροντιστές με ελάχιστη καθοδήγηση καθώς περιηγούνται σε μια αγορά γεμάτη ολοένα και περισσότερο σύνθετα προϊόντα που βασίζονται σε τεχνητή νοημοσύνη. Η βιομηχανία αντιμετωπίζει τώρα την πρόκληση της οικοδόμησης εμπιστοσύνης αποδεικνύοντας ότι οι σύντροφοί της με τεχνητή νοημοσύνη είναι ασφαλείς, όχι απλώς έξυπνοι.
