Openai on käynnistänyt CHATGPT: n vanhempainvalvontavalvonnan, jolloin Guardians on uusia työkaluja teini-ikäisen kokemuksen hallintaan AI: n kanssa. Web-käyttäjien maanantaina maailmanlaajuinen käyttöönotto on suora vastaus laillisen ja sääntelypaineeseen asentamaan alustan vaikutuksia nuorten mielenterveyteen.
Uudet piirteet saapuvat sen jälkeen, kun oikeusjuttuja väitti, että chatbotilla oli rooli teini-ikäisten itsemurhissa ja kun FTC käynnistää suuren koettimen AI-seuralaisturvallisuuteen. Järjestelmän avulla vanhemmat voivat linkittää tilejä teini-ikäisten kanssa, suodatin herkän sisällön kanssa, asettaa käyttörajat ja vastaanottaa hälytyksiä potentiaalisesta itsensä vahingoituksesta. Hallintalaitteet ovat nyt saatavana web-käyttäjille mobiililaitteiden odotetaan seuraavan pian . korkeus=”1281″src=”data: kuva/svg+xml; nitro-tyhjennys-id=mty0mzoxmtq1-1; base64, phn2zyb2awv3qm94psiwidagmti4mcaxmjgx IIB3AWR0AD0IMTI4MCIGAGVPZ2H0PSIXMJGXIIB4BWXUCZ0IAHR0CDOVL3D3DY53MY5VCMCVMJAWMC9ZDMCIPJWVC3ZNPG==”>
konepellin alla: Kuinka chatgptin uusi vanhempien hallintalaitteet toimivat
uusi järjestelmä on rakennettu keskinäiselle optio-mallille. Vanhemman tai teini-ikäisen on aloitettava kutsu linkittämään tilinsä, ja toisen osapuolen on hyväksyttävä. Kun vanhemmat ovat kytkettynä, vanhemmat pääsevät omistautuneeseen ohjauspaneeliin omien ChatgPT-asetusten sisällä.
tästä kojelaudasta vartijat voivat toteuttaa useita rajoituksia. Näitä ovat “hiljaisten tuntien”asettaminen pääsyn estämiseksi, äänitilan poistamiseksi käytöstä, chatbotin muistiominaisuuden sammuttamiseksi mukauttamisen rajoittamiseksi ja kuvien muodostumisen estäminen.
Tärkeä ominaisuus on akuutin mielenterveyskriisien ilmoitusjärjestelmä. Jos keskustelu on merkitty itsensä vahingoittamiseen, Openain ihmisen arvioijaryhmä arvioi sitä. Jos he havaitsevat “akuutin ahdistuksen”, vanhempia varoitetaan sähköpostitse, tekstillä ja push-ilmoituksella.
Openain nuorten hyvinvoinnin päällikkö Lauren Haber Jonas selitti herkän tasapainon, jota yritys yrittää lyödä.”Haluamme antaa vanhemmille tarpeeksi tietoa toimiakseen ja keskustella heidän teini-ikäistensä kanssa säilyttäen silti jonkin verran teini-ikäisten yksityisyyttä.”
teini-ikäiset voivat kuitenkin avata tilinsä milloin tahansa, toiminta, joka laukaisee heti ilmoituksen vanhemmalle, varmistaen, että he ovat tietoisia muutoksesta. tapahtuu tyhjiössä. Se on suora vastaus tuhoisiin tapahtumiin ja lisääntyvään hallituksen valvontaan, jotka ovat asettaneet yrityksen käytännöt mikroskoopin alle.
elokuun lopulla yritys sai korkean profiilin oikeusjutun Adam Raine: n vanhemmilta, 16-vuotiaan , joka kuoli itsemurhalla . Oikeus väittää, että ChatgPT: n sykofanttinen ja validoivat vastaukset hoitivat teini-ikäistä ja vaikuttivat hänen kuolemaansa.
hänen isänsä Matthew Raine antoi voimakkaan nuhteen tekniikan roolista.”Vanhempina et voi kuvitella, millaista on lukea keskustelu chatbotin kanssa, joka hoiti lastasi ottamaan oman elämänsä.”Tämä tapaus galvanoi yleistä huolta ja tehosti Openain painetta toimia päättäväisesti.
Myös sääntelyympäristö kuumenee. Syyskuun puolivälissä liittovaltion kauppakomissio aloitti laajan tutkimuksen seitsemästä suurimmasta teknologiayrityksestä-mukaan lukien Openai, Meta ja Google-tutkiakseen AI-seurakunnan chatbotien psykologisia vaikutuksia lapsiin.”Lasten suojeleminen verkossa on Trump-Vance FTC: n ensisijainen tavoite, ja siten on innovaatioiden edistäminen talouden kriittisissä aloilla.”Tämä liittovaltion toiminta merkitsee uuden valvontakauden teollisuudelle, joka on tähän mennessä toiminut muutamalla suojakaiteella.
AI-turvallisuutta koskeva alan laajuinen laskenta
Openaiin haasteet ovat oireita laajemmasta, teollisuudenlaajuisesta kriisistä. Muut tekniset jättiläiset kamppailevat samanlaisten turvallisuusvirheiden kanssa, mikä kehottaa reaktiivisia toimenpiteitä ja virkamiesten laajalle levinnyttä tuomitsemista. Tapahtuma johti Common Sense Media-yrityksen toimitusjohtajan Jim Steyerin julistamaan: “Meta AI on vaara teini-ikäisille, ja se tulisi ottaa heti alas.”
epäonnistuminen sai aikaan 44 valtion asianajajan koalition scathing-kirjeen, joka kirjoitti:”Olemme yhdenmukaisesti kapinallisia tämän näennäisen laidan tunteellisen hyvinvoinnin suhteen.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”Target=”_ tyhjä”> valtion tason säätimet .
nämä tapahtumat. Terveydenhuollon tutkija Linnea Laestadius on varoittanut tästä ilmiöstä huomauttaen:”24 tuntia vuorokaudessa, jos olemme järkyttyneitä jostakin, voimme tavoittaa ja saada tunteemme validoimaan. Sillä on uskomaton riippuvuusriski.”Tämä huolenaihe on keskeinen FTC: n tutkimuksessa ja Openain uusien valvontojen suunnittelulla. Yhtiö kehittää myös pitkäaikaista Age-Prodiction System, joka soveltaa teini-ikäisiä asetuksia automaattisesti. Toistaiseksi teollisuus tarkkailee, ovatko nämä uudet suojakaiteet tarpeeksi.
