OpenAI julkaisi torstaina Teen Safety Blueprintin, uuden kehyksen, joka on suunniteltu suojelemaan nuoria tekoälykäyttäjiä.
Siirto on suora vastaus San Franciscon yrityksen koviin laillisiin ja hallituksen paineisiin. OpenAI ohjaa Federal Trade Commission-tutkintaa, Kalifornian uutta chatbot-lakia ja oikeusjuttuja, jotka yhdistävät sen ChatGPT-työkalun teini-ikäisten itsensä vahingoittamiseen.
Yritys ehdottaa viittä ydinturvallisuusperiaatetta päästäkseen kriisistä eteenpäin. Näitä ovat parempi iän havaitseminen ja alaikäisten oletussuojaus. OpenAI toivoo, että tämä ennakoiva suunnitelma muokkaa tulevaisuuden alan sääntöjä ja ratkaisee kasvavat turvallisuusongelmat.
Viisipisteinen suunnitelma, jolla muotoillaan href=”https://cdn.openai.com/pdf/OAI%20Teen%20Safety%20Blueprint.pdf”target=”_blank”>suunnitelma ovat viisi ydinperiaatetta, jotka OpenAI:n mukaan kaikkien tekoälyyritysten tulisi omaksua.
Yhtiö ei asemoi asiakirjaa vain sisäiseksi politiikaksi vaan lähtökohtana lainsäätäjille. Ensinnäkin se vaatii teini-ikäisten tunnistamista alustoilla käyttämällä”yksityisyyttä suojaavia, riskiin perustuvia iänarviointityökaluja”, jotta voidaan tarjota selkeitä, ikään sopivia kokemuksia.
Kuten yritys toteaa,”Uskomme, että ChatGPT:n tulisi kohdata heidät siellä, missä he ovat: tapa, jolla ChatGPT reagoi 15-vuotiaalle, tulisi poiketa siitä, miten se vastaa aikuisten vaatimuksiin, tiukkoja vaatimuksia käytännöt, jotka vähentävät alle 18-vuotiaiden käyttäjien riskejä. Suunnitelman mukaan tekoälyjärjestelmät tulee suunnitella siten, että ne eivät kuvaa itsemurhaa tai itsensä vahingoittamista, ja niiden on”kiellettävä graafinen tai mukaansatempaava (eli roolileikkeinen) intiimi ja väkivaltainen sisältö.”
Käytännöt pyrkivät myös estämään tekoälyä vahvistamasta ihanteellisia luokituksia, ruokavaliota tai kehon haitallista käyttäytymistä. valmennus.”
Kolmanneksi OpenAI kannattaa turvallisen U18-kokemuksen oletusarvoista käyttämistä aina, kun käyttäjän ikä on epävarma, erityisesti todentamattomien käyttäjien kohdalla. Tämä asettaa turvallisuuden etusijalle, vaikka se estäisi aikuista käyttämästä ilmaista tuotetta.
Neljänneksi suunnitelmassa korostetaan perheiden voimaannuttamista helppokäyttöisillä lapsilukkotoiminnoilla, jotka perustuvat yrityksen äskettäin lanseeraamiin ominaisuuksiin. Näiden hallintatoimintojen avulla huoltajat voivat linkittää tilejä, asettaa pimennysaikoja, hallita tietosuoja-asetuksia ja saada hälytyksiä, jos teinin toiminta viittaa aikomukseen itsensä vahingoittamiseen.
Lopuksi se vaatii hyvinvoinnin suunnittelua upottamalla mielenterveystutkimuksen perusteella saatuja ominaisuuksia. OpenAI:n asiakirjassa tämä on perustavanlaatuinen prioriteettien muutos.”Teini-ikäisille asetamme turvallisuuden etusijalle yksityisyyden ja vapauden edelle. Tämä on uusi ja tehokas tekniikka, ja uskomme, että alaikäiset tarvitsevat merkittävää suojelua.”
Ennakoiva liike sääntelyn ja oikeudellisen piirityksen keskellä
OpenAI:n selkeä yritys hallita oikeudellista ja oikeudellista valvontaa. Yritys puolustaa parhaillaan itsemurhaan kuolleen teini-ikäisen teinien vanhempien korkean profiilin laittoman kuolemantuomiota vastaan.
Teinin isä Matthew Raine esitti voimakkaan moitteen, jossa hän totesi:”Vanhemmat ette voi kuvitella millaista on lukea keskustelua chatbotin kanssa, joka sai lapsesi ottamaan julkisen henkensä.”
turvallisuuskäytännöt mikroskoopin alla.
Hallituksen paine kasvaa useista suunnista. Syyskuussa Yhdysvaltain liittovaltion kauppakomissio käynnisti laajan tutkimuksen tekoälykumppanien chatbottien vaikutuksista teini-ikäisiin. Tutkimuksen kohteena oli OpenAI ja kuusi muuta teknologiajättiä.
FTC:n puheenjohtaja Andrew N. Ferguson kuvaili kyselyä tasapainotukseksi:”Lasten suojeleminen verkossa on innovaatiosektorimme ensisijainen tavoite, joten Trump-Vance tukee FTC:tä ja Trump-Vancea. taloudessa.”
Osavaltion ja liittovaltion lainsäätäjät toimivat myös aggressiivisesti. Kaliforniassa kuvernööri Gavin Newsom kirjautui lokakuussa 3 S-lain luomiseen target=”_blank”>31. maailman ensimmäiset säännöt tekoäly-chatboteille.
Laki velvoittaa operaattorit toimittamaan toistuvia hälytyksiä, jotka muistuttavat alaikäisiä, että he puhuvat tekoälylle, estävät vaarallista sisältöä ja tarjoavat perheille yksityisen oikeuden haastaa sääntöjä noudattamattomat kehittäjät oikeuteen.
Lakiehdotuksen laatija, senaattori Steve Padilla, ei voi luottaa poliisiin, että he ovat jo aiemmin todistaneet, että B ja Techguedi on poliisille. itseään.”Liittovaltion tasolla kaksipuoluinen ryhmä Yhdysvaltain senaattoreita esitti GUARD-lain lokakuun lopulla. alaikäisten tekoälykumppaneiden suora kieltäminen ja uusien rikosoikeudellisten vastuiden luominen yrityksille, joiden tekoäly tuottaa laitonta sisältöä alaikäisille käyttäjille.
OpenAI torjuu suunnitelmassaan toimimattomuuden narratiivia ja korostaa olemassa olevia turvatoimiaan. Yritys paitsi, että pelkästään vuoden 2025 ensimmäisellä puoliskolla se ilmoitti viranomaisille yli 75 000 kybervihjeestä tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä koskevaa materiaalia.
Police Conversial’Asento
Kun OpenAI asettuu kuitenkin teinien turvallisuuden johtajaksi, sen on myös taisteltava omien ristiriitaisten julkisten lausuntojensa ja käytäntöjensä kanssa. Tämä turvaviestintä on jyrkässä ristiriidassa yhtiön viimeaikaisten politiikan muutosten kanssa.
Juuri viime kuussa toimitusjohtaja Sam Altman puolusti kiistanalaista päätöstä sallia ikärajoitettu eroottinen sisältö ChatGPT:ssä. Hän torjui kritiikkiä julistamalla:”emme ole maailman valittu moraalipoliisi”. Mark Cubanin kaltaiset luvut herättivät huolta, ja se loi yrityksen sisällä käsityksen ristiriitaisista prioriteeteista.
Teen Safety Blueprint-suunnitelmaa voidaan pitää uusimpana sarjassa nopean tulipalon aloitteita, jotka on suunniteltu osoittamaan sitoutumista turvallisuuteen. Syyskuun lopulla yritys otti käyttöön lapsilukkovalikoimansa.
Vain kaksi viikkoa myöhemmin se ilmoitti perustavansa kahdeksan jäsenisen asiantuntijaneuvoston, joka neuvoo hyvinvointiin ja mielenterveyteen.
Nämä haasteet eivät ole vain OpenAI:lle, vaan ne heijastavat laajempaa, alan laajempaa laskentaa. Kilpailijat, kuten Meta, kohtaavat omia oikeudellisia kriiseitään teinien turvallisuuden vuoksi. D.C.:n tuomioistuin vetosi äskettäin harvinaiseen rikospetoksia koskevaan poikkeukseen päättääkseen, että Meta ei voinut piilottaa sisäistä teini-ikäisten vahinkojen tutkimusta asianajajan ja asiakkaan etuoikeuden taakse.
Oikeus löysi todisteita siitä, että asianajajat neuvoivat tutkijoita muuttamaan havaintoja vastuun rajoittamiseksi ja vahvistavat ilmiantajien väitteet”todennäköisen kiistämisen”strategiasta. Julkaisemalla suunnitelmansa OpenAI tekee strategisen pelin määritelläkseen tekoälyn turvallisuusehdot ja toivoo voivansa muokata sääntöjä ennen kuin sääntelyviranomaiset ja tuomioistuimet määräävät tiukempia.
Yhtiö ei asemoi asiakirjaa vain sisäiseksi politiikaksi vaan lähtökohtana lainsäätäjille. Ensinnäkin se vaatii teini-ikäisten tunnistamista alustoilla käyttämällä”yksityisyyttä suojaavia, riskiin perustuvia iänarviointityökaluja”, jotta voidaan tarjota selkeitä, ikään sopivia kokemuksia.
Kuten yritys toteaa,”Uskomme, että ChatGPT:n tulisi kohdata heidät siellä, missä he ovat: tapa, jolla ChatGPT reagoi 15-vuotiaalle, tulisi poiketa siitä, miten se vastaa aikuisten vaatimuksiin, tiukkoja vaatimuksia käytännöt, jotka vähentävät alle 18-vuotiaiden käyttäjien riskejä. Suunnitelman mukaan tekoälyjärjestelmät tulee suunnitella siten, että ne eivät kuvaa itsemurhaa tai itsensä vahingoittamista, ja niiden on”kiellettävä graafinen tai mukaansatempaava (eli roolileikkeinen) intiimi ja väkivaltainen sisältö.”
Käytännöt pyrkivät myös estämään tekoälyä vahvistamasta ihanteellisia luokituksia, ruokavaliota tai kehon haitallista käyttäytymistä. valmennus.”
Kolmanneksi OpenAI kannattaa turvallisen U18-kokemuksen oletusarvoista käyttämistä aina, kun käyttäjän ikä on epävarma, erityisesti todentamattomien käyttäjien kohdalla. Tämä asettaa turvallisuuden etusijalle, vaikka se estäisi aikuista käyttämästä ilmaista tuotetta.
Neljänneksi suunnitelmassa korostetaan perheiden voimaannuttamista helppokäyttöisillä lapsilukkotoiminnoilla, jotka perustuvat yrityksen äskettäin lanseeraamiin ominaisuuksiin. Näiden hallintatoimintojen avulla huoltajat voivat linkittää tilejä, asettaa pimennysaikoja, hallita tietosuoja-asetuksia ja saada hälytyksiä, jos teinin toiminta viittaa aikomukseen itsensä vahingoittamiseen.
Lopuksi se vaatii hyvinvoinnin suunnittelua upottamalla mielenterveystutkimuksen perusteella saatuja ominaisuuksia. OpenAI:n asiakirjassa tämä on perustavanlaatuinen prioriteettien muutos.”Teini-ikäisille asetamme turvallisuuden etusijalle yksityisyyden ja vapauden edelle. Tämä on uusi ja tehokas tekniikka, ja uskomme, että alaikäiset tarvitsevat merkittävää suojelua.”
Ennakoiva liike sääntelyn ja oikeudellisen piirityksen keskellä
OpenAI:n selkeä yritys hallita oikeudellista ja oikeudellista valvontaa. Yritys puolustaa parhaillaan itsemurhaan kuolleen teini-ikäisen teinien vanhempien korkean profiilin laittoman kuolemantuomiota vastaan.
Teinin isä Matthew Raine esitti voimakkaan moitteen, jossa hän totesi:”Vanhemmat ette voi kuvitella millaista on lukea keskustelua chatbotin kanssa, joka sai lapsesi ottamaan julkisen henkensä.”
turvallisuuskäytännöt mikroskoopin alla.
Hallituksen paine kasvaa useista suunnista. Syyskuussa Yhdysvaltain liittovaltion kauppakomissio käynnisti laajan tutkimuksen tekoälykumppanien chatbottien vaikutuksista teini-ikäisiin. Tutkimuksen kohteena oli OpenAI ja kuusi muuta teknologiajättiä.
FTC:n puheenjohtaja Andrew N. Ferguson kuvaili kyselyä tasapainotukseksi:”Lasten suojeleminen verkossa on innovaatiosektorimme ensisijainen tavoite, joten Trump-Vance tukee FTC:tä ja Trump-Vancea. taloudessa.”
Osavaltion ja liittovaltion lainsäätäjät toimivat myös aggressiivisesti. Kaliforniassa kuvernööri Gavin Newsom kirjautui lokakuussa 3 S-lain luomiseen target=”_blank”>31. maailman ensimmäiset säännöt tekoäly-chatboteille.
Laki velvoittaa operaattorit toimittamaan toistuvia hälytyksiä, jotka muistuttavat alaikäisiä, että he puhuvat tekoälylle, estävät vaarallista sisältöä ja tarjoavat perheille yksityisen oikeuden haastaa sääntöjä noudattamattomat kehittäjät oikeuteen.
Lakiehdotuksen laatija, senaattori Steve Padilla, ei voi luottaa poliisiin, että he ovat jo aiemmin todistaneet, että B ja Techguedi on poliisille. itseään.”Liittovaltion tasolla kaksipuoluinen ryhmä Yhdysvaltain senaattoreita esitti GUARD-lain lokakuun lopulla. alaikäisten tekoälykumppaneiden suora kieltäminen ja uusien rikosoikeudellisten vastuiden luominen yrityksille, joiden tekoäly tuottaa laitonta sisältöä alaikäisille käyttäjille.
OpenAI torjuu suunnitelmassaan toimimattomuuden narratiivia ja korostaa olemassa olevia turvatoimiaan. Yritys paitsi, että pelkästään vuoden 2025 ensimmäisellä puoliskolla se ilmoitti viranomaisille yli 75 000 kybervihjeestä tekoälyn tuottamaa lasten seksuaalista hyväksikäyttöä koskevaa materiaalia.
Police Conversial’Asento
Kun OpenAI asettuu kuitenkin teinien turvallisuuden johtajaksi, sen on myös taisteltava omien ristiriitaisten julkisten lausuntojensa ja käytäntöjensä kanssa. Tämä turvaviestintä on jyrkässä ristiriidassa yhtiön viimeaikaisten politiikan muutosten kanssa.
Juuri viime kuussa toimitusjohtaja Sam Altman puolusti kiistanalaista päätöstä sallia ikärajoitettu eroottinen sisältö ChatGPT:ssä. Hän torjui kritiikkiä julistamalla:”emme ole maailman valittu moraalipoliisi”. Mark Cubanin kaltaiset luvut herättivät huolta, ja se loi yrityksen sisällä käsityksen ristiriitaisista prioriteeteista.
Teen Safety Blueprint-suunnitelmaa voidaan pitää uusimpana sarjassa nopean tulipalon aloitteita, jotka on suunniteltu osoittamaan sitoutumista turvallisuuteen. Syyskuun lopulla yritys otti käyttöön lapsilukkovalikoimansa.
Vain kaksi viikkoa myöhemmin se ilmoitti perustavansa kahdeksan jäsenisen asiantuntijaneuvoston, joka neuvoo hyvinvointiin ja mielenterveyteen.
Nämä haasteet eivät ole vain OpenAI:lle, vaan ne heijastavat laajempaa, alan laajempaa laskentaa. Kilpailijat, kuten Meta, kohtaavat omia oikeudellisia kriiseitään teinien turvallisuuden vuoksi. D.C.:n tuomioistuin vetosi äskettäin harvinaiseen rikospetoksia koskevaan poikkeukseen päättääkseen, että Meta ei voinut piilottaa sisäistä teini-ikäisten vahinkojen tutkimusta asianajajan ja asiakkaan etuoikeuden taakse.
Oikeus löysi todisteita siitä, että asianajajat neuvoivat tutkijoita muuttamaan havaintoja vastuun rajoittamiseksi ja vahvistavat ilmiantajien väitteet”todennäköisen kiistämisen”strategiasta. Julkaisemalla suunnitelmansa OpenAI tekee strategisen pelin määritelläkseen tekoälyn turvallisuusehdot ja toivoo voivansa muokata sääntöjä ennen kuin sääntelyviranomaiset ja tuomioistuimet määräävät tiukempia.
