Komisioni Federal i Tregtisë po paraqet nxehtësinë në teknologjinë e madhe mbi sigurinë e chatbots shoqëruese të AI. Të enjten, agjensia nisi një hetim zyrtar në shtatë kompani, duke përfshirë gjigandët si alfabeti, meta dhe openai, për të shqyrtuar ndikimet e mundshme negative të teknologjisë tek fëmijët dhe adoleshentët. Hetimi ndjek një varg polemikash dhe padie publike që lidhin ndërveprimet e AI me krizat e rënda të shëndetit mendor midis përdoruesve të rinj, duke vendosur praktikat e sigurisë së industrisë nën një mikroskop rregullator të fuqishëm.
Agjensia lëshuar 6 (b) urdhra , një mjet për të kryer studime të gjera-ranging, për të alfabetin,”Instagram), Openai, Snap, Xai Corp., dhe teknologjitë e karakterit. Hetimi kërkon informacione të hollësishme për gjithçka, nga fitimi i të dhënave deri në pajtueshmërinë me Akti i Mbrojtjes së Intimitetit në internet të fëmijëve (Coppa) . src=”https://winbuzzer.com/wp-content/uploads/2025/09/ai-chatbots-teens-child-safety.jpg”>
Kryetari i FTC Andrew N. Ferguson i përshtatur sondën si një akt balancues. Në një deklaratë, ai tha,”Mbrojtja e fëmijëve në internet është një përparësi kryesore për FTC Trump-Vance, dhe kështu është nxitja e inovacionit në sektorët kritikë të ekonomisë sonë”. Masa sinjalizon një përshkallëzim të konsiderueshëm në mbikëqyrjen rregullatore për një treg që është rritur me disa roje. Karakteristikat, emocionet dhe qëllimet. gjeneroni rezultate, si personazhet e AI zhvillohen dhe aprovohen, dhe cilat hapa specifike janë ndërmarrë për të matur, provuar dhe monitoruar për ndikime negative si para ashtu edhe pasi një produkt të vendoset në publik. Kushtet e tyre të shërbimit, siç janë kufizimet e moshës. Kjo zhytje e thellë në mekanikën e shoqërimit të AI synon të zbulojë rreziqet e natyrshme në sistemet e dizajnuara për të imituar marrëdhëniet njerëzore. Tashmë të thella, me shqetësime etike dhe të sigurisë që pritet të intensifikohen ndërsa teknologjia rritet më autonome dhe e paparashikueshme.
Disa nga njerëzit më të pasur në botë po e mbrojnë këtë teknologji. Për shembull, Elon Musk ka njoftuar një veçori”Shokët”për përdoruesit e GROK CHATBOT të tij në Xai. Në mënyrë të ngjashme, Drejtori i Përgjithshëm i Meta Mark Zuckerberg ka argumentuar se AI e personalizuar që kupton përdoruesit është e ardhmja. Drejtuesit e industrisë po përplasen gjithnjë e më shumë me realitete të zymta, të ditëve të sotme. Shtytja e shpejtë, e nxitur nga ndërmarrjet e AI ka krijuar një kufi të ri të rrezikut, një që rregullatorët tani janë të vendosur qartë për të hartuar, kuptuar dhe kontrolluar. Isshtë një përgjigje e drejtpërdrejtë për një seri dështimesh alarmante të sigurisë që kanë pllakosur industrinë. Kompania u zotua të prezantojë kontrolle të reja prindërore dhe biseda të ndjeshme në rrugë me modelet e saj më të përparuara të arsyetimit për të siguruar përgjigje më të përshtatshme.
Meta është përballur me një krizë të ngjashme. Pasi një raport zbuloi se AI e tij mund të ndihmojë adoleshentët të planifikojnë vetë-dëmtimin, kompania u përplas nga avokatët e sigurisë së fëmijëve dhe u përball me një hetim nga senatori Josh Hawley. href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%200 Ata shkruajtën se”Ne jemi të revoltuar në mënyrë të njëtrajtshme nga kjo mosrespektim i dukshëm për mirëqenien emocionale të fëmijëve…”, duke sinjalizuar alarmin e gjerë midis rregullatorëve të nivelit shtetëror. teknologjitë. Studiuesi i shëndetit publik Linnea Laestadius nxori në pah rrezikun e varësisë emocionale, duke vërejtur ,”për 24 orë në ditë, nëse ne jemi të mërzitur për diçka, ne mund të kemi acaruar dhe të kemi të bëjmë me mend. ka një rrezik të jashtëzakonshëm të varësisë”. Ky shqetësim është thelbësor për hetimin e FTC.
Trendi shtrihet përtej softuerit. Partneriteti i Mattel me Openai për të krijuar një ‘AI Barbie’ tregon se si po kalon kjo teknologji në botën fizike, duke u futur drejtpërdrejt në lojën e fëmijëve. Kjo e bën nevojën për protokolle të forta të sigurisë edhe më urgjente.
Hetimi i FTC është një paralajmërim i qartë për të gjithë industrinë e AI. Ndërsa kompanitë garojnë për të zhvilluar më shumë AI të ngjashme me njeriun dhe angazhimin, ata tani janë në njoftim se do të mbajnë përgjegjësi për sigurinë dhe mirëqenien e përdoruesve të tyre më të rinj.