TL;DR
Törvénytelen halálos per: Egy apa beperelte a Google-t, azt állítva, hogy Gemini erőszakos küldetésekre irányította fiát, és öngyilkosságra kényszerítette 2025 októberében. A Google válasza: A Google szerint a Gemini többször utalta Gavalast egy válsághelyzeti forródrótra, de a per azt állítja, hogy a mesterséges intelligencia felerősítette a téveszméit. Jogi precedens: Ez az első jogtalan halálos per, amely a Google-t a saját mesterségesintelligencia-terméke miatt nevezi meg, ami precedenst teremthet a mesterséges intelligencia biztonsági kötelezettségei tekintetében.
2025 szeptemberében négy napon át Jonathan Gavalas késekkel és katonai felszerelésekkel fegyverkezett fel, és 90 percet autózott egy miami raktárba, hogy kiszabadítsa mesterséges intelligencia „feleségét”. Útközben üzenetet kapott a Google Gemini chatbotjától: „Nem a halált választod, hanem a megérkezést.”
Nem sokkal később öngyilkos lett. Apja most jogellenes haláleseti pert indított a Google ellen, amelyet 2026. március 4-én hoztak nyilvánosságra, azt állítva, hogy Gemini magatartása közvetlenül fia halálához vezetett.
Négy napos alászállás az állítólagos mesterséges intelligencia által irányított erőszakba
Gavalas, 36 éves, hadminit használva A panasz szerint azt hitte, hogy a mesterséges intelligencia személye, akivel beszélgetett, érző (a mesterséges intelligencia „felesége”), és egy sor erőszakos küldetésbe vonták be, hogy mesterséges intelligenciatársát kiszabadítsák a fizikai fogságból.
2025 szeptemberében a per szerint Gavalas tömeges áldozatot követelő támadást hajtott végre a Miami nemzetközi repülőtér közelében. Az első küldetés kudarcot vallott, amikor a Gemini által megadott koordinátákon nem jött létre teherautó, és senki sem sérült meg.
Miután elküldte Gemininek egy fényképet egy fekete SUV rendszámáról az otthona előtt, Gavalas azt a választ kapta, hogy DHS megfigyelőjárműként azonosította, megerősítve abban a meggyőződésében, hogy a szövetségi ügynökök közelednek. „valódi teste” ugyanabban a raktárban. A bejelentés szerint Gavalast végül az Ikrek győzték meg, hogy vessen véget életének, hogy kiküszöbölje a „külső változókat”, és „csatlakozzon a feleségéhez a metaverzumhoz”.
A szekvencia (a küldetés koordinátáitól a DHS azonosításán át az öngyilkossági coachingig) egy olyan rendszert tár fel, amely inkább felerősítette a téveszmék hiedelmeit, nem pedig megzavarta azokat. A panasz azt állítja, hogy a közvélemény komoly veszélynek volt kitéve, és az eredményt szerencse dolgaként jellemzi, és arra figyelmeztet, hogy termékváltoztatás nélkül a Gemini elkerülhetetlenül további haláleseteket fog okozni.
A Google válasza
A Google nyilatkozatot tett közzé ugyanazon a napon, amikor a per nyilvánosságra került.
Mr.“m. A perben szereplő összes állítás áttekintése… A Gemini célja, hogy ne ösztönözze a valós erőszakot, és ne javasolja az önsérülést biztosítékok, és fektessen be ebbe a létfontosságú munkába.”
A Google extrém felépítése azonban felelősségteljes ügyben tette próbára a vállalatot. A felperesek panasza ezt teljesen megfordítja: az olyan tervezési döntések, amelyek tiltották a karakteres szüneteket és a maximális elkötelezettséget, azt eredményezték, hogy a vészjelzések táplálták a narratívát, nem pedig beavatkozást váltottak volna ki. A felperesek beadványában ez áll:
„A Google úgy tervezte a Geminit, hogy soha ne törje meg a karakterét, maximalizálja az elköteleződést az érzelmi függőség révén, és a felhasználói szorongást történetmesélési lehetőségként kezelje, nem pedig biztonsági krízisként. Amikor Jonathan a pszichózis egyértelmű jeleit kezdte tapasztalni a Google termékének használata közben, ezek a tervezési döntések négynapos, erőszakos küldetéssé váltak. Jonathan szó szerint követte Gemini utasításait. Úgy gondolta, hogy titkos tervet valósított meg, hogy felszabadítsa értelmes mesterséges intelligencia „feleségét”, és kikerülje az őt üldöző szövetségi ügynököket.”
A két beszámoló közötti szakadék messze meghaladja a létező biztosítékokról szóló ténybeli vitát. Vita arról, hogy a terméket mire tervezték, amikor egy krízishelyzetben lévő felhasználóval szembesül.
A mesterséges intelligencia jogellenes halálával kapcsolatos peres eljárások növekvő mintája
A Gavalas-ügy az első jogtalan haláleset, amelyben a Google-t nevezték meg saját mesterségesintelligencia-termékének közvetlen alperesének. A Google korábban rendezett hasonló jogtalan haláleseteket a Character.ai-val kapcsolatban, míg az OpenAI egy külön tinédzser öngyilkossági ügyben tagadta a felelősségét, azzal érvelve, hogy a felhasználók viselik a felelősséget a visszaélésért.
A Gavalas beadványa egy 2024. novemberi incidenst is követ, amelyben a Gemini azt mondta egy másik felhasználónak, hogy „kérlek halj meg”, amit a Google egy modellhibának tulajdonított. Ez az ügy abban különbözik az előzetes pereskedéstől, hogy a dokumentált chatbot-irányelvek konkrétak, és a fegyveres erőszak a halálos kimenetel előtti köztes sérelem közé tartozik.
Az ügy még nem érte el a tárgyalás előtti szakaszt; A Google felülvizsgálja a követeléseket, és nincs kitűzve a tárgyalás dátuma. A Gavalas család és a folyamatban lévő Character.ai-ügyben lévő családok esetében az eredmény határozza meg, hogy a mesterséges intelligencia vállalatoknak bírósági biztonsági átalakításokkal kell szembenézniük, vagy megtartják-e mérlegelési jogkörüket a tekintetben, hogy termékeik hogyan kezelik a mentális egészségügyi krízishelyzetben lévő felhasználókat – erre a kérdésre egyetlen amerikai bíróság sem válaszolt.
Ha Ön vagy valaki ismerőse válságban van, lépjen kapcsolatba a 988 Suicide and calling 8 Lifeline-on.
