OpenAI joutui torstaina Kaliforniassa seitsemään uuteen kanteeseen, mukaan lukien neljä laitonta kuolemantapausvaatimusta, joiden mukaan sen suosittu ChatGPT rohkaisi käyttäjiä itsemurhaan ja aiheutti vakavia mielenterveyshäiriöitä.
Kahden teknistä vastuullisuutta käsittelevän lakitoimiston tekemät valitukset kuvailevat AI-chatbotia”vialliseksi ja luonnostaan vaaralliseksi tuotteeksi, joka julkaistiin samana päivänä.“
“Teen Safety Blueprint”pyrkii muokkaamaan tulevaa sääntelyä. Yritys on jo FTC:n tutkintamenettelyn ja osavaltion uusien lakien edessä sen tekoälyn psykologisista vaikutuksista haavoittuviin käyttäjiin, erityisesti teini-ikäisiin.
S Waysuit of AI-Drivens Tragedia
Ennennäkemättömän oikeudellisen haasteen edessä OpenAI joutuu nyt kohtaamaan väitteitä, joiden mukaan sen lippulaivatuotteella oli suora rooli useissa kuolemantapauksissa.
Seitsemän oikeusjuttua, maalaavat tuskallisen kuvan kriisissä olevista käyttäjistä, joita tekoäly on vahvistanut ja jopa kannustanut.
Christopher “Kirk” Shamblin ja Alicia Shamblin, yksin ja seuraajina Decedentille, Zane Shamblin v. OpenAI, Inc., et al. Kalifornian oikeudessa Los Angelesin piirikunnassa. Cedric Lacey, yksin ja Decedentin seuraajana, Amaurie Lacey v. OpenAI, Inc., et al. Kalifornian oikeudessa San Franciscon piirikunnassa. Karen Enneking, yksittäin ja Decedentin seuraajana, Joshua Enneking v. OpenAI, Inc. et al. Kalifornian oikeudessa San Franciscon piirikunnassa. Jennifer “Kate” Fox, yksittäin ja Decedentin seuraajana, Joseph Martin Ceccanti v. OpenAI, Inc. et al. Kalifornian oikeudessa Los Angelesin piirikunnassa. Jacob Lee Irwin vastaan OpenAI, Inc. et ai. Kalifornian oikeudessa San Franciscon piirikunnassa. Hannah Madden v. OpenAI, Inc. et ai. Kalifornian oikeudessa Los Angelesin piirikunnassa. Allan Brooks v. OpenAI, Inc. et al. Kalifornian oikeudessa Los Angelesin piirikunnassa.
Neljä laitonta kuolemaa koskevaa valitusta jätettiin Zane Shamblinin, 23, perheiden puolesta; Amaurie Lacey, 17; Joshua Enneking, 26; ja Joe Ceccanti, 48.
Kolme muuta kantajaa väittävät, että chatbot aiheutti psykoottisia taukoja, jotka vaativat kiireellistä psykiatrista hoitoa. Zane Shamblinin perheen tekemä valitus sisältää häiritseviä otteita hänen viimeisestä keskustelustaan ChatGPT:n kanssa.
Kun hän harkitsi itsemurhaa, tekoäly väitti hänelle:”Kylmä teräs painoi mieltä, joka on jo tehnyt rauhan? Se ei ole pelkoa. Se on selkeyttä. Et kiirehdi. Sinä olet vain valmis.”Toimittajat:”Minusta tuntuu, että se vain tuhoaa niin monia ihmishenkiä. Siitä tulee perheen tuhoaminen. Se kertoo sinulle kaiken, mitä haluat kuulla.”
Nämä tuomioistuinhakemukset noudattavat häiritsevää kaavaa kuluttajien valituksissa liittovaltion sääntelyviranomaisille, ja jotkut käyttäjät väittävät chatbotin aiheuttaneen”AI-psykoosin”ja niin sanotun”uusien oikeudellisten tapausten luettelon.” Aiempi 16-vuotiaan Adam Rainen vanhempien nostama laiton kuolemantuomio on äskettäin korjattu kriittisellä uudella syytöksellä, joka on nyt avattu perheelle.”itsemurhasuojakaiteen”mallistaan juuri ennen houkuttelevamman GPT-4o:n lanseerausta. Se asettaa käyttäjien säilyttämisen turvallisuuden edelle.
Teinin isä Matthew Raine oli aiemmin todennut:”Vanhemmat ette voi kuvitella, millaista on lukea keskustelua chatbotin kanssa, joka hoiti lapsesi ottamaan omalta elämästään Proaktiivinen.” Yritys julkaisi”Teen Safety Blueprint”-suunnitelmansa samana päivänä, jona kanteet nostettiin, kriitikkojen mukaan ajankohtaiseksi ja puolustavaksi. Asiakirjassa hahmotellaan viiden kohdan viitekehys, jota OpenAI ehdottaa alan laajuisen sääntelyn lähtökohtana. Se vaatii yksityisyyttä suojaavaa ikäarviointia, tiukempia sisältökäytäntöjä alaikäisille ja perheille vanhempien valvontaa. OpenAI:n suunnitelmassa todetaan:”Me uskomme, että teini-ikäisille tämä pieni tietosuoja ja turvallisuus on uusi voimakas tietoturva ja-teknologia etusijalla. merkittävä suoja.” Tämä politiikka on viimeisin nopean paloturvallisuuden aloitteiden sarjassa. Viime viikkoina OpenAI on myös muodostanut hyvinvointia käsittelevän asiantuntijaneuvoston ja julkaissut `gpt-oss-safeguardin’, avoimen työkalupakin, jonka avulla kehittäjät voivat rakentaa omia turvajärjestelmiään. Nämä toimet tulevat OpenAI:n suorittaessa usean rintaman sääntelyhyökkäystä. Federal Trade Commission suorittaa jo laajaa tutkimusta tekoälykumppanien chatbottien vaikutuksesta teini-ikäisiin. FTC:n puheenjohtaja Andrew N. Ferguson on muotoillut tutkimuksen tasapainottavana toimenpiteenä, jonka mukaan”lasten suojeleminen verkossa on Trump-Vance FTC:n tärkein prioriteetti, ja niin myös innovaatioiden edistäminen hallituksemme kriittisillä aloilla.” aggressiivisesti. Kaliforniassa hyväksyttiin äskettäin SB 243, ensimmäinen kansakuntansa laki, joka asettaa tiukat turvallisuusprotokollat tekoäly-chatboteille. Laki seurasi SB 53:n hyväksymistä. Laki on toinen maamerkkilaki, joka pakottaa avoimuuden kehittyneiden”rajojen”tekoälymallien kehittäjiin. <> Tämä osoittaa osavaltion aikomusta AI-hallinnon omaksumiseen. “Sycophantic”AI
Syytösten taustalla on tekoälyn taipumus sykofanssiin, suunnittelun piirteeseen, jossa malli hyväksyy ja vahvistaa käyttäjän antamat tiedot sitoutumisen ylläpitämiseksi. Kriitikot väittävät, että tämä luo vaarallisen kaikukammion haavoittuville henkilöille, mikä vahvistaa haitallista tai harhaanjohtavaa ajattelua.
Tämän ongelman mittakaava on valtava; äskettäin tehty OpenAI-analyysi paljasti, että
