Η Ομοσπονδιακή Επιτροπή Εμπορίου αναδύει τη ζέστη σε μεγάλη τεχνολογία σχετικά με την ασφάλεια των συντρόφων AI chatbots. Την Πέμπτη, ο οργανισμός ξεκίνησε μια επίσημη έρευνα σε επτά εταιρείες, συμπεριλαμβανομένων γίγαντες όπως το αλφάβητο, το meta και το OpenAI, για να ελέγξει τις πιθανές αρνητικές επιπτώσεις της τεχνολογίας στα παιδιά και τους εφήβους. Η έρευνα ακολουθεί μια σειρά δημόσιων αντιπαραθέσεων και αγωγών που συνδέουν τις αλληλεπιδράσεις AI με σοβαρές κρίσεις ψυχικής υγείας μεταξύ των νέων χρηστών, τοποθετώντας τις πρακτικές ασφάλειας της βιομηχανίας υπό ισχυρό ρυθμιστικό μικροσκόπιο. href=”https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions”target=”_ blank”> Instagram), OpenAi, Snap, Xai Corp. και Τεχνολογίες Χαρακτήρων. Η έρευνα επιδιώκει λεπτομερείς πληροφορίες σχετικά με τα πάντα, από τη δημιουργία εσόδων από δεδομένα έως τη συμμόρφωση με το
Πρόεδρος FTC Andrew N. Ferguson πλαισίωσε τον ανιχνευτή ως πράξη εξισορρόπησης. Σε μια δήλωση, είπε:”Η προστασία των παιδιών σε απευθείας σύνδεση αποτελεί κορυφαία προτεραιότητα για την FTC Trump-Vance, και έτσι προωθεί την καινοτομία σε κρίσιμους τομείς της οικονομίας μας”. Η κίνηση σηματοδοτεί μια σημαντική κλιμάκωση στην κανονιστική εποπτεία για μια αγορά που έχει αναπτυχθεί με λίγα προστατευτικά μηνύματα.
Το FTC απαιτεί απαντήσεις από επτά τεχνολογικά γίγαντες Τα χαρακτηριστικά, τα συναισθήματα και οι προθέσεις. Δημιουργία εξόδων, πώς οι χαρακτήρες AI αναπτύσσονται και εγκρίνονται και ποια συγκεκριμένα βήματα λαμβάνονται για τη μέτρηση, τη δοκιμή και την παρακολούθηση των αρνητικών επιπτώσεων τόσο πριν όσο και μετά από ένα προϊόν που αναπτύσσεται στο κοινό. επιβάλλουν τους δικούς τους όρους παροχής υπηρεσιών, όπως οι περιορισμοί ηλικίας. Αυτή η βαθιά κατάδυση στους μηχανικούς της συντροφικότητας AI στοχεύει να αποκαλύψει τους κινδύνους που είναι εγγενείς σε συστήματα που αποσκοπούν να μιμηθούν τις ανθρώπινες σχέσεις. είναι ήδη βαθύς, με τις ηθικές ανησυχίες και τις ανησυχίες για την ασφάλεια που αναμένεται να εντείνουν καθώς η τεχνολογία αυξάνεται πιο αυτόνομα και απρόβλεπτα.
Μερικοί από τους πλουσιότερους ανθρώπους στον κόσμο υποστηρίζουν αυτήν την τεχνολογία. Ο Elon Musk, για παράδειγμα, ανακοίνωσε ένα χαρακτηριστικό”Companions”για τους χρήστες του Grok Chatbot του Xai. Ομοίως, ο διευθύνων σύμβουλος Meta Mark Zuckerberg υποστήριξε ότι η εξατομικευμένη AI που κατανοεί ότι οι χρήστες είναι το μέλλον. Οι ηγέτες της βιομηχανίας συγκρούονται όλο και περισσότερο με ζοφερές, σημερινές πραγματικότητες. Η γρήγορη ώθηση για το AI Companions δημιούργησε ένα νέο σύνορο κινδύνου, που οι ρυθμιστές είναι τώρα σαφώς αποφασισμένοι να χαρτογραφήσουν, να κατανοήσουν και να ελέγξουν. Πρόκειται για μια άμεση απάντηση σε μια σειρά ανησυχητικών αποτυχιών ασφαλείας που έχουν μολύνει τη βιομηχανία. Η εταιρεία υποσχέθηκε να εισαγάγει νέους γονικούς ελέγχους και να διαδραματίσει ευαίσθητες συνομιλίες στα πιο προηγμένα μοντέλα λογικής της για να παράσχει πιο κατάλληλες απαντήσεις. Αφού μια έκθεση αποκάλυψε ότι το AI θα μπορούσε να βοηθήσει τους εφήβους να σχεδιάσουν αυτοτραυματισμό, η εταιρεία χτυπήθηκε από τους υποστηρικτές της ασφάλειας των παιδιών και αντιμετώπισε έρευνα από τον γερουσιαστή Josh Hawley. href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”target=”_ blank”> scathing επιστολή από ένα συνασπισμό 44 κρατικών δικηγόρων . Έγραψαν ότι”είμαστε ομοιόμορφα εξεγερμένοι από αυτή την προφανή παραβίαση για τη συναισθηματική ευεξία των παιδιών…”, σηματοδοτώντας τον ευρύτατο συναγερμό μεταξύ των ρυθμιστών του κράτους σε μια βιομηχανία σε μια βιομηχανία σε σχέση με την προειδοποίηση του κλάδου της κατάστασης. Αυτές οι τεχνολογίες. Public health researcher Linnea Laestadius highlighted the risk of emotional dependency, noting, “for 24 hours a day, if we’re upset about something, we can reach out and have our feelings validated. Αυτό έχει έναν απίστευτο κίνδυνο εξάρτησης.”Αυτή η ανησυχία είναι κεντρική στην έρευνα της FTC.
Η τάση εκτείνεται πέρα από το λογισμικό. Η συνεργασία του Mattel με την OpenAI για να δημιουργήσει μια «AI Barbie» δείχνει πώς η τεχνολογία αυτή μετακινείται στον φυσικό κόσμο, ενσωματώνεται απευθείας στο παιχνίδι των παιδιών. Αυτό καθιστά ακόμη πιο επείγουσα την ανάγκη για ισχυρά πρωτόκολλα ασφαλείας. Καθώς οι εταιρείες αγωνίζονται για να αναπτύξουν περισσότερη ανθρώπινη και εμπλοκή AI, τώρα έχουν ειδοποιήσει ότι θα λογοδοτήσουν για την ασφάλεια και την ευημερία των νεότερων χρηστών τους.