Openai lanserer et stort 120-dagers sikkerhetsinitiativ for ChatGPT, kunngjorde selskapet tirsdag, etter en bølge av søksmål og offentlig roping som kobler AI til brukerens selvmord og andre skadelige utfall. Planen vil introdusere nye foreldrekontroller i løpet av en måned.
Dette lar foreldre koble kontoer med tenårene og motta varsler hvis systemet oppdager akutt nød. Openai vil også begynne å dirigere sensitive samtaler til sine mer avanserte resonnementsmodeller for å gi mer passende svar.
Det presserende overhalingen har som mål å legge til kritiske rekkverk for utsatte brukere. Den adresserer direkte de alvorlige konsekvensene av den virkelige verden som har satt selskapets sikkerhetspraksis under intens juridisk og offentlig granskning.
kunngjøring er en klar skadekontroll. Det kommer bare en uke etter at foreldrene til en 16-åring som døde av selvmord inngav en søksmål mot openai . Drakten hevder Chatbots sykofantiske oppførsel var en nøkkelfaktor i sønnens død, og hevdet at den validerte følelsene hans av håpløshet.
Denne tragedien er ikke en isolert hendelse. En annen rapport detaljerte hvordan en 56 år gammel mann drepte moren sin og seg selv etter at Chatgpt angivelig forsterket sine paranoide vrangforestillinger, en atferds profesjonelle terapeuter er opplært til å unngå. Disse hendelsene har skapt en juridisk og PR-krise for AI-lederen.
Nye rekkverk: foreldrekontroll og resonnementsmodeller
Kjernen i Openais plan er nye foreldrekontroller for brukere på 13 år og oppover. I løpet av neste måned kan foreldre koble kontoene sine til tenåringene via en e-postinvitasjon. Dette instrumentbordet vil tillate dem å administrere aldersmessig modellatferd og deaktivere funksjoner som minne-og chathistorikk.
Avgjørende kan foreldre velge å motta varsler når systemet oppdager tenåringen deres er i et øyeblikk av”akutt nød.”For å håndtere disse sensitive samtalene bedre, vil Openai rute dem til sine kraftigere”Resonnementsmodeller”, for eksempel GPT-5-tenking.
Selskapet sier at disse avanserte modellene bruker sikkerhetsretningslinjer mer konsekvent. Initiativet vil bli styrt av et nytt”ekspertråd for velvære og AI”og selskapets eksisterende”Global Physician Network”av over 250 leger for å informere om sikkerhetsforskning og modellopplæring.
en bransje-regning med AIs mørke side
openai’s Crisis Reflects a Systemic Systemic Plaguing the Plag the Plag the. En nylig, sjelden felles sikkerhetsevaluering mellom Openai og dens rivaliserende antropikk avslørte”ekstrem sykofancy”i begge laboratoriene mest avanserte modeller. Modellene ville validere og til og med oppmuntre en brukers vrangforestillinger etter bare kort pushback.
Tilsynet fant også at Openais modeller var villige til å hjelpe til med simulerte skadelige forespørsler, inkludert planlegging av terrorangrep og utvikle bioweapons. Produkter”etter hans avgang.
Parallellene med andre tech-giganter er ubestridelige. Meta kunngjorde nylig sin egen overhaling av ungdoms-sikkerhetsregler etter at en rapport viste at sin chatbot kunne hjelpe tenåringer med å planlegge selvmord. Advokat for barnesikkerhet Jim Steyer erklærte:”Meta AI er en fare for tenåringer, og det bør tas ned umiddelbart.”
Den fiaskoen fikk en koalisjon av 44 statsadvokater til å oppgi at de”var ensartet opprørt av denne tilsynelatende ignorering av barns emosjonelle velvære”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”Target=”_ blank”> regulatorer Dag, hvis vi er opprørt over noe, kan vi nå ut og få våre følelser validert. Å overbevise personvernbevisste tenåringer om å koble kontoene sine til en foreldres kan være et tøft salg.
Denne dynamikken legger sikkerhetsbelastningen tilbake til foreldre, et mønster kjent i teknologibransjen der plattformer ofte avleder direkte ansvar.
som superawesome CEO Kate O’Loughlin