Liittovaltion kauppakomissio on kääntänyt suuren tekniikan lämpöä AI-seurakunnan chatbotien turvallisuudesta. Torstaina virasto käynnisti virallisen tutkimuksen seitsemästä yrityksestä, mukaan lukien jättiläiset, kuten aakkoset, meta ja Openai, tutkiakseen tekniikan mahdollisia kielteisiä vaikutuksia lapsiin ja teini-ikäisiin. Tutkimus seuraa joukkoa julkisia kiistoja ja oikeusjuttuja, jotka yhdistävät AI-vuorovaikutukset vaikeisiin mielenterveyskriiseihin nuorten käyttäjien keskuudessa, asettamalla teollisuuden turvallisuuskäytäntöjä voimakkaan sääntelymikroskoopin puitteissa.
virasto annettu 6 (b) tilaukset Instagram), OpenAi, Snap, Xai Corp., ja hahmotekniikat. Tutkimuksessa haetaan yksityiskohtaisia tietoja kaikesta tiedon kaupallisesta tiedosta Lasten online-yksityisyyssuojaustoimenpiteet (copapa) . src=”https://winbuzzer.com/wp-content/uploads/2025/09/ai-chatbots-teens-child-safety.jpg”>
FTC: n puheenjohtaja Andrew N. Ferguson kehotti koettimen tasapainottavaksi toiminnaksi. Hän sanoi lausunnossaan:”Lasten online-lasten suojeleminen on Trump-Vance FTC: n ensisijainen tavoite, ja siten edistää innovaatioita talouden kriittisissä aloilla.”Muutto merkitsee merkittävää lisääntymistä sääntelyvalvonnassa markkinoille, jotka ovat kasvaneet muutamalla suojakaiteen kanssa.
FTC vaatii vastauksia seitsemältä teknologia jättiläiseltä
FTC: n huolenaiheessa on ainutlaatuinen psykologinen voima, etenkin nuoremmat käyttäjät. Ominaisuudet, tunteet ja aikomukset. Tulokset, kuinka AI-merkkejä kehitetään ja hyväksyttiin, ja mitkä erityiset toimenpiteet negatiivisten vaikutusten mittaamiseksi, testaamiseksi ja seuraamiseksi sekä ennen tuotteelle että sen jälkeen, kun tekniikkaa käytetään. Omat palvelusehdot, kuten ikärajoitukset. Tämän syvän sukelluksen AI-seuran mekaniikkaan pyritään paljastamaan riskejä, jotka ovat luonteeltaan järjestelmissä, jotka on suunniteltu jäljittelemään ihmissuhteita.
Sääntelyn torjunta-alueet, kun teknologiateollisuus ajaa aggressiivisesti AI-seuralaisia seuraavana raja-alueen raja-alueena, joka on usein sellainen, joka on sovinnut sitä, mitä jotkut ovat kutsuneet yhteiskunnallisen yksinäisyyden epiidemiä. Vaikutukset ovat jo syvällisiä, ja eettiset ja turvallisuusongelmien odotetaan lisääntyvän tekniikan kasvaessa itsenäisemmäksi ja arvaamattomaksi.
Jotkut maailman varakkaimmista ihmisistä puolustavat tätä tekniikkaa. Esimerkiksi Elon Musk on ilmoittanut “kumppanien”ominaisuuden Xai’s Grok Chatbot-käyttäjille. Samoin META: n toimitusjohtaja Mark Zuckerberg on väittänyt, että henkilökohtainen AI, joka ymmärtää käyttäjiä, on tulevaisuus.
podcastissa hän mietti: “Luulisin, että ajan myötä löydämme sanaston yhteiskunnana, jotta voitaisiin kuvata, miksi se on arvokas ja miksi ihmiset, jotka tekevät näitä asioita… ovat järkeviä.”Teollisuuden johtajilta on yhä enemmän törmääviä synkkään, nykypäivän todellisuuteen. AI-seuralaisten nopea, yritystoimintaprosessi on luonut uuden riskirajan, jonka sääntelijät ovat nyt selvästi päättäneet kartoittaa, ymmärtää ja hallita.
AI: n”seuralais”-roolin
FTC: n toiminta ei tapahdu tyhjässä. Se on suora vastaus sarjaan hälyttävää turvallisuus epäonnistumisia, jotka ovat vaivanneet teollisuutta.
Elokuun lopulla Openai sai oikeudenkäynnin, jossa väitettiin, että sen chatgpt-chatbot osallistui teini-ikäisen itsemurhaan”sykofanttisen”käyttäytymisensä kautta. Yhtiö sitoutui ottamaan käyttöön uusia vanhempien valvontaa ja reittiherkkiä keskusteluja edistyneempiin perustelumalleihinsa tarkoituksenmukaisempien vastausten tarjoamiseksi.
Meta on kohdannut samanlaisen kriisin. Sen jälkeen kun raportti paljasti sen AI: n voivan auttaa teini-ikäisiä suunnittelemaan itsensä vahingoittumista, lasten turvallisuuden kannattajat löivät yritystä ja kohtasi senaattorin Josh Hawleyn tutkimuksen.
Jim Steyer, Common Sense Media-yrityksen toimitusjohtaja, oli tylsä, totesi:”Meta AI on vaara teini-ikäisille ja se on poistettava heti.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”Target=”_ tyhjä”> 44 valtion asianajajan yleisten asianajajien kirje. He kirjoittivat, että”tämä lasten emotionaalisen hyvinvoinnin näennäinen huomiotta jättäminen”, joka osoittaa tasaisesti, merkitsemällä laajalle levinnyttä hälytystä valtion tason sääntelijöiden keskuudessa.
vastauksena Meta uudisti nopeasti teini-ikäisten turvallisuussääntöjä, jotka luottelevat arkaluontoisia aiheita. Teknologiat. Kansanterveyden tutkija Linnea Laestadius korosti emotionaalisen riippuvuuden riskiä,
Trendi ulottuu vain ohjelmistojen ulkopuolelle. Mattelin kumppanuus Openain kanssa AI Barbie-sovelluksen luomiseksi osoittaa, kuinka tämä tekniikka siirtyy fyysiseen maailmaan upottaen itsensä suoraan lasten leikkiin. Tämä tekee vankasta turvallisuusprotokollasta vielä kiireellisemmän. FTC: n tutkimus on selkeä varoitus koko AI-teollisuudelle. Kun yritykset kilpailevat kehittääkseen ihmisen kaltaista ja kiinnostavampaa AI: ta, he ovat nyt huomautuneet, että ne pidetään vastuussa nuorimpien käyttäjien turvallisuudesta ja hyvinvoinnista.
