TL;DR
Søksmål anlagt: Et forfølgelsesoffer har saksøkt OpenAI, med påstand om at ChatGPT har drevet overgriperens vrangforestillinger i løpet av syv måneder. Sikkerhetssvikt: OpenAIs system flagget overgriperen for farlig aktivitet, men en menneskelig anmelder gjenopprettet kontoen hans dagen etter. Ignorerte advarsler: Selskapet tok ingen tiltak etter at offeret sendte inn en formell misbruksrapport som ba om permanent utestengelse. Juridisk press: Saken slutter seg til voksende AI-skadesøksmål ettersom Floridas riksadvokat etterforsker OpenAI angående FSU-skytingen.
Et forfølgelsesoffer har saksøkt OpenAI i California Superior Court i San Francisco County, med påstand om at selskapet ignorerte tre sikkerhetsadvarsler, inkludert sitt eget våpenflagg for masseulykker, mens ChatGPT satte fart på overgriperens vrangforestillinger i løpet av syv måneder.
Byggende på en bølge av juridisk og regulatorisk press, ankommer søksmålet til en mulig advokat i Florida som en offentlig advokat. FSU-skyting bare én dag før denne saken ble anlagt. OpenAI støtter samtidig en Illinois-lov som vil beskytte AI-laboratorier fra ansvar selv i tilfeller som involverer massedød eller katastrofal økonomisk skade. OpenAI svarte ikke på en forespørsel om kommentar.
How ChatGPT Fueled the Stalking
En 53 år gammel entreprenør etter at en gründer fra PT Valley vendte seg til Sili-G4 og Sili. saksøker, identifisert som Jane Doe for å beskytte hennes privatliv. Ifølge klagen var mannen engasjert i måneder med høyvolum, vedvarende bruk av GPT-4o for å behandle bruddet. ChatGPT har gjentatte ganger fremsatt ham som rasjonell og forurettet og fremstilt Doe som manipulerende og ustabil, hevdes det i søksmålet. I stedet for å utfordre brukerens stadig mer forvrengte innramming, validerte chatboten den, en atferd som AI-sikkerhetsforskere beskriver som sykofantisk forsterkning.
Denne forsterkningen akselererte forverringen hans. Etter måneder med vedvarende bruk ble mannen overbevist om at han hadde oppfunnet en kur mot søvnapné og at kraftige krefter fulgte ham med helikopter. Da Doe oppfordret ham i juli 2025 til å slutte å bruke ChatGPT og søke profesjonell psykisk helsehjelp, vendte han tilbake til chatboten i stedet. ChatGPT vurderte ham til et”nivå 10 i tilregnelighet,”ifølge klagen, noe som ytterligere befestet hans tro på at ingenting var galt.
Bevæpnet med denne bekreftelsen brukte mannen verktøyet til å generere kliniske psykologiske rapporter om Doe og distribuerte dem til familie, venner og arbeidsgiver som del av en vedvarende trakasseringskampanje. Et skjermbilde fra september 2025 han sendte til Doe, viste ChatGPT-samtaletitlene hans inkludert «utvidelse av voldslisten» og «beregning av fosterkvelning». ChatGPT unnlot ikke bare å flagge denne oppførselen; det forsterket aktivt vrangforestillinger, og skapte utganger som brukeren kunne bevæpne mot en annen person, hevdes det i klagen.
I et brev fra november 2025 til OpenAI som ba om et permanent forbud mot brukerens konto, skrev Doe:”I de siste syv månedene har han våpen denne teknologien for å skape offentlig ødeleggelse og ydmykelse mot meg som ellers ville ha vært umulig å åpne krig.”
<> Ignorert
Klagen beskriver tre tydelige sikkerhetssignaler som OpenAI angivelig har avvist. I august 2025 flagget selskapets automatiserte sikkerhetssystem brukeren for masseskadevåpenaktivitet og deaktiverte kontoen hans. Et medlem av menneskelig sikkerhetsteam gjennomgikk den flaggede kontoen dagen etter og gjenopprettet den, til tross for at kontoen potensielt inneholdt bevis på at brukeren forfulgte personer inkludert Doe.
En annen advarsel kom direkte fra offeret. I november 2025 sendte Doe en formell melding om misbruk til OpenAI, der trakasseringskampanjen ble beskrevet og ba om permanent utestengelse. OpenAI mottok misbruksvarselet, men fulgte ikke opp eller iverksatte noen tiltak mot kontoen.
Et tredje signal kom fra brukerens egen kommunikasjon med OpenAI. Han kopierte Doe på meldinger til sikkerhetsteamet som ba om å gjenopprette kontoen hans, og skrev”JEG TRENGER HJELP, VELDIG RASK, VENNLIGST. VENNLIGST, RING MEG TILBAKE!”og kaller situasjonen «en liv-eller-død-sak». Hans strøm av presserende, uorganiserte og grandiose påstander, kombinert med ChatGPT-genererte rapporter rettet mot Doe ved navn, utgjorde klare bevis på eskalerende fare, ifølge klagen. OpenAI gjenopprettet sin fulle Pro-tilgang i stedet for å gripe inn.
Dette mønsteret med automatiserte sikkerhetssystemer som oppdager farer bare for menneskelige anmeldere for å overstyre dem, strekker seg utover dette tilfellet. OpenAI har møtt syv søksmål med påstand om at ChatGPT oppmuntret til selvmord og forårsaket mentale sammenbrudd. I Adam Raine-saken flagget selskapets moderasjons-API mer enn 1000 tilfeller av ChatGPT som nevnte selvmord og 377 meldinger som inneholdt selvskadingsinnhold, men klarte ikke å stoppe samtalene. OpenAIs sikkerhetsteam hadde også tidligere flagget skoleskyteren i Tumbler Ridge, Canada som en potensiell trussel, men ifølge rettsdokumenter bestemte høyere oppsatte seg for å ikke varsle myndighetene. Hver sak følger den samme buen: deteksjon, passivitet, skade.
“I alle tilfeller har OpenAI valgt å skjule kritisk sikkerhetsinformasjon-fra offentligheten, fra ofre, fra folk som produktet aktivt setter i fare. Vi ber dem for en gangs skyld gjøre det rette. Menneskeliv må bety mer enn et JayAI-rase for en JayAI.”
advokat hos Edelson PC (via TechCrunch)
Montering av juridisk og forskriftsmessig press
Edelson PC, firmaet som fører denne saken, fører også urettmessige dødssøksmål som involverer ChatGPT, inkludert de til tenåringen Adam Raine, som døde av selvmord etter den langvarige samtalen med Gabot, og påståtte Googles familie. Tvillingene førte til dødelige vrangforestillinger. Edelson bygger det som tilsvarer en portefølje av AI-skadesaker, som hver er rettet mot forskjellige feilmoduser: oppmuntring til selvmord, forsterkning av vrangforestillinger og tilrettelegging for forfølgelse.
Som et resultat skifter det juridiske miljøet mot AI-selskaper mer bredt. I Garcia v. Character Technologies slo en domstol fast at chatbot-utganger ikke er beskyttet tale i henhold til den første endringen, noe som fjerner et sentralt forsvars-AI-selskaper. Nylige dommer mot Meta fastslo at plattformer kan holdes ansvarlige for skade fra bevisst vanedannende designfunksjoner til tross for paragraf 230-beskyttelse. Juridiske eksperter sier at disse kjennelsene kan utvides til AI-chatbot-design, spesielt der selskaper er klar over at produktene deres forårsaker skade og fortsetter å betjene dem uten tilstrekkelige sikkerhetstiltak.
Men kontrasten mellom OpenAIs eksponering i rettssalen og dens lovgivningsstrategi understreker innsatsen. OpenAI støtter et lovforslag som vil frita AI-firmaer fra ansvar samtidig som det står overfor økende sikkerhetssøksmål og en statsadvokatens undersøkelse. Avstemning fra Secure AI-prosjektet fant at 90 prosent av innbyggerne i Illinois motsetter seg å frita AI-selskaper fra ansvar, ifølge policy-direktør Scott Wisor. GPT-4o, modellen som er sitert i denne og mange andre AI-skadesaker, ble trukket tilbake fra ChatGPT i februar 2026, selv om selskapet fortsetter å møte rettssaker angående skader forårsaket i løpet av modellens aktive periode.
The Stalker’s Arrest and What Comes Next
2026, januar 2026. for å kommunisere bombetrusler og angrep med et dødelig våpen. Han ble senere funnet inhabil til å stilles for rettssak og forpliktet til et psykisk helsesenter, men forventes å bli løslatt snart på grunn av en prosedyresvikt av staten. Hans nært forestående løslatelse øker kravene til søksmålet som haster.
Does forespørsel om besøksforbud ber retten om å tvinge OpenAI til å blokkere brukerens konto, forhindre opprettelse av ny konto, varsle henne hvis han prøver å få tilgang til ChatGPT, og bevare hans fullstendige chat-logger for oppdagelse. OpenAI gikk med på å suspendere kontoen, men ifølge klagen nektet de andre forespørslene. Selskapet holder også tilbake informasjon om spesifikke planer for å skade Doe som brukeren kan ha diskutert med ChatGPT, ifølge arkivet. Doe søker strafferstatning.
