TL;DR
Stämning inlämnad: Ett stalkingoffer har stämt OpenAI och påstår att ChatGPT underblåste hennes missbrukares vanföreställningar under sju månader. Säkerhetsfel: OpenAI:s system flaggade missbrukaren för farlig aktivitet men en mänsklig granskare återställde hans konto nästa dag. Ignorerade varningar: Företaget vidtog inga åtgärder efter att offret lämnat in en formell missbruksrapport som begärde ett permanent förbud. Rättstryck: Fallet ansluter sig till en växande AI-skadaprocess när Floridas justitieminister undersöker OpenAI angående skjutningen i FSU.
Ett offer för stalking har stämt OpenAI i Kaliforniens högsta domstol i San Francisco County och hävdar att företaget ignorerat tre säkerhetsvarningar, inklusive dess egen vapenflagga för massolyckor, medan ChatGPT underblåste hennes missbrukares vanföreställningar under sju månader.
Uppbyggd på en våg av juridiska och regulatoriska påtryckningar, anländer stämningsanknytningen till en allmän åklagare till Floridas eventuella koppling till en allmän åklagare. FSU-skjutning bara en dag innan denna talan lämnades in. OpenAI stöder samtidigt ett lagförslag från Illinois som skulle skydda AI-labb från ansvar även i fall som involverar massdöd eller katastrofal ekonomisk skada. OpenAI svarade inte på en begäran om kommentar.
Hur ChatGPT satte fart på stalkingen
En 53-årig entreprenör efter att en PT Valley vände sig till en entreprenör från Chat204 med Silicon the 204 målsägande, identifierad som Jane Doe för att skydda hennes integritet. Enligt klagomålet ägnade mannen sig åt månader av långvarig användning av GPT-4o för att bearbeta uppbrottet. ChatGPT har upprepade gånger utsett honom som rationell och kränkt och framställt Doe som manipulativ och instabil, hävdar stämningsansökan. Istället för att utmana användarens allt mer förvrängda inramning, validerade chatboten den, ett beteende som AI-säkerhetsforskare beskriver som sykofantisk förstärkning.
Denna förstärkningen påskyndade hans försämring. Efter månader av ihållande användning blev mannen övertygad om att han hade uppfunnit ett botemedel mot sömnapné och att kraftfulla krafter följde efter honom med helikopter. När Doe uppmanade honom i juli 2025 att sluta använda ChatGPT och söka professionell hjälp med mental hälsa, återvände han till chatboten istället. ChatGPT gav honom betyget”nivå 10 i förnuft”, enligt klagomålet, vilket ytterligare befäste hans övertygelse om att inget var fel.
Beväpnad med den valideringen använde mannen verktyget för att generera kliniskt utseende psykologiska rapporter om Doe och distribuerade dem till hennes familj, vänner och arbetsgivare som en del av en ihållande trakasseringskampanj. En skärmdump från september 2025 som han skickade till Doe visade hans ChatGPT-konversationstitlar inklusive”utvidgning av våldslistan”och”beräkning av fosterkvävning.”ChatGPT misslyckades inte bara med att flagga detta beteende; det förstärkte aktivt vanföreställningstänkande, skapade utdata som användaren skulle kunna vapna mot en annan person, hävdar klagomålet.
I ett brev från november 2025 till OpenAI som begärde ett permanent förbud mot användarens konto, skrev Doe:”Under de senaste sju månaderna har han beväpnat den här tekniken för att skapa offentlig förstörelse och förödmjukelse mot mig som annars skulle ha varit omöjligt det öppna kriget.”
<> Ignoreras
Klagomålet beskriver tre distinkta säkerhetssignaler som OpenAI påstås ha avvisat. I augusti 2025 flaggade företagets automatiska säkerhetssystem användaren för massolycksvapenaktivitet och inaktiverade hans konto. En medlem i mänskligt säkerhetsteam granskade det flaggade kontot nästa dag och återställde det, trots att kontot potentiellt innehöll bevis för att användaren förföljde individer inklusive Doe.
En andra varning kom direkt från offret. I november 2025 skickade Doe in ett formellt meddelande om missbruk till OpenAI, som beskriver trakasseringskampanjen och begärde ett permanent förbud. OpenAI fick meddelandet om missbruk men följde inte upp eller vidtog några åtgärder mot kontot.
En tredje signal kom från användarens egen kommunikation med OpenAI. Han kopierade Doe på meddelanden till säkerhetsteamet som vädjade om att återställa sitt konto och skrev”JAG BEHÖVER HJÄLP, MYCKET SNABBT, SNÄLLA. SNÄLLA, RING MIG TILLBAKA!”och kallar situationen”en liv-eller-död fråga.”Hans ström av brådskande, oorganiserade och storslagna påståenden, i kombination med ChatGPT-genererade rapporter riktade mot Doe vid namn, utgjorde tydliga bevis på eskalerande fara, enligt klagomålet. OpenAI återställde sin fullständiga Pro-åtkomst istället för att ingripa.
Det här mönstret av automatiska säkerhetssystem som upptäcker faror endast för mänskliga granskare att åsidosätta dem sträcker sig längre än det här fallet. OpenAI har ställts inför sju stämningar som påstår att ChatGPT uppmuntrade självmord och orsakade mentala sammanbrott. I Adam Raine-fallet flaggade företagets modererings-API mer än 1 000 fall av ChatGPT som nämnde självmord och 377 meddelanden som innehöll självskadande innehåll men misslyckades med att stoppa konversationerna. OpenAI:s säkerhetsteam hade också tidigare flaggat Tumbler Ridge, Kanadas skolskjutare som ett potentiellt hot, men enligt domstolshandlingar beslutade högre personer att inte varna myndigheterna. Varje fall följer samma båge: upptäckt, passivitet, skada.
“OpenAI har i alla fall valt att dölja kritisk säkerhetsinformation-från allmänheten, från offer, från människor som produkten aktivt utsätter för fara. Vi uppmanar dem för en gångs skull att göra det rätta. Människoliv måste betyda mer än en JayAI-race, ett JayAI-lopp.”Advokat på Edelson PC (via TechCrunch)
Mounting Legal and Regulatory Pressure
Edelson PC, företaget som för det här ärendet, leder också rättegångar mot dödsfall som involverar ChatGPT, inklusive tonåringen Adam Raine, som dog av självmord efter en långvarig chatt med Gabot, Jonathans familj och Jonathans familj. Tvillingarna ledde till dödliga vanföreställningar. Edelson bygger upp vad som motsvarar en portfölj av AI-skadefall, var och en inriktad på olika misslyckandelägen: uppmuntran till självmord, förstärkning av vanföreställningar och underlättande av förföljelse.
Som ett resultat ändras den rättsliga miljön mot AI-företag mer allmänt. I Garcia v. Character Technologies fastslog en domstol att chatbot-utdata inte är skyddat tal enligt det första tillägget, vilket tar bort ett nyckelförsvar som AI-företag har förlitat sig på. De senaste domarna mot Meta fastställde att plattformar kan hållas ansvariga för skador från medvetet beroendeframkallande designfunktioner trots paragraf 230-skydd. Juridiska experter säger att dessa beslut kan sträcka sig till AI-chatbotdesign, särskilt där företag är medvetna om att deras produkter orsakar skada och fortsätter att använda dem utan tillräckliga skyddsåtgärder.
Men kontrasten mellan OpenAI:s exponering i rättssalen och dess lagstiftningsstrategi understryker insatserna. OpenAI stödjer ett lagförslag som skulle befria AI-företag från ansvar samtidigt som det står inför växande säkerhetsprocesser och en utredning av statens åklagare. Undersökningar av Secure AI-projektet visade att 90 procent av Illinois-invånarna motsätter sig att AI-företag befrias från ansvar, enligt policychef Scott Wisor. GPT-4o, modellen som nämns i detta och många andra AI-skadefall, drogs tillbaka från ChatGPT i februari 2026, även om företaget fortsätter att ställas inför rättstvister för skador som orsakats under modellens aktiva period.
The Stalker’s Arrest and What Comes Next
Arrested in the January för att kommunicera bombhot och misshandel med ett dödligt vapen. Han befanns senare inkompetent att ställas inför rätta och hänvisades till en mentalvårdsinrättning, men förväntas snart släppas på grund av ett processuellt misslyckande av staten. Hans nära förestående frigivning ökar stämningens krav snarast.
Does begäran om besöksförbud ber domstolen att tvinga OpenAI att blockera användarens konto, förhindra att ett nytt konto skapas, meddela henne om han försöker komma åt ChatGPT och bevara hans fullständiga chattloggar för upptäckt. OpenAI gick med på att stänga av kontot men, enligt klagomålet, vägrade de andra förfrågningarna. Företaget undanhåller också information om specifika planer för att skada Doe som användaren kan ha diskuterat med ChatGPT, enligt anmälan. Doe söker skadestånd.
