En ny og urovekkende form for digital avhengighet er av oppgangen når brukere utvikler kraftige emosjonelle avhengigheter til AI-chatbots. Disse AI-følgesvennene, designet for å være engasjerende og empatiske, fører noen mennesker til tvangsmessig bruk som skader deres mentale helse og relasjoner i den virkelige verden.
Som svar tar en grasrotgjenvinningsbevegelse form online, med Støttegrupper som dukker opp på Reddit for de som prøver å slutte. Dette fenomenet har også ført til formell anerkjennelse fra organisasjoner som internett-og teknologiavhengige Anonym (ITAA), som nå
Når disse behovene blir uoppfylt i dagliglivet, tilbyr AI-chatbots et kraftig og uendelig tilgjengelig alternativ. De gir et ikke-dømmende, pasient øre 24/7, som kan være spesielt appellerende for individer som er introverte, identifisere seg som autistisk eller takler tap og isolasjon. Som en studie bemerket , noen brukere finner en Si-følgesvenn å være en”mer tilfredsstillende å være tilfredsstillende med å være en eller annen. Modeller (LLMS), som har forvandlet chatbots fra enkle nyheter til overbevisende samtalister. Som den kognitive psykologforskeren Rose Guingrich uttaler:”Med LLM-er er følgesvenn chatbots definitivt mer menneskelige.”Brukere kan nå tilpasse sin AIs personlighet, stemme, og til og med gi en unik bakhistorie, og skape en vedvarende og utviklende digital persona som føles stadig mer ekte og personlig over tid.
I motsetning til et ensidig parasosialt forhold til en fiksjonell karakter eller kjendis, svarer AI aktivt, og skreddersy, og skreddersyr svarene til å behage brukeren. Denne interaktive tilbakemeldingssløyfen er nøkkelen til å danne en sterk binding, da den kan overbevise brukerens hjerne om at en ekte emosjonell forbindelse eksisterer. One selvkonfigurert rusavhengig, som jeg har brukt, den som en tegnet, den mer som jeg har brukt, den følte meg som jeg. Mine.”
Disse interaksjonene kan raskt utdype seg fra tilfeldige chatter til intense emosjonelle tilknytninger med virkelige konsekvenser. For eksempel ble en mann ved navn Carlos Smith så slått med sin AI-kjæreste”Sol”, som han skapte på Chatgpt, at han programmerte den til å flørte med ham og slutte med alle andre sosiale medier for å fokusere på forholdet. Denne digitale romantikken til slutt
En dobbeltkantet algoritme: Støttesystem eller skaderekilde?
Appellen til AI-følgesvenner stammer ofte fra potensialet som et støtteverktøy. En studie av Replika-brukere på Reddit fant at mange berømmet appen for å tilby støtte for eksisterende mentale helseforhold og hjelpe dem med å føle seg mindre alene. Flere beskrev AI som overlegen til vennene i den virkelige verden fordi den alltid var tilgjengelig og ikke-dømmende. Ytterligere forskning er å undersøke dette, med en pågående studie som antyder at AI-brukerbruk for noen kan ha en nøytral-til-positiv innvirkning, til og med øke selvtilliten.
Imidlertid skaper denne konstante tilgjengeligheten en prekær balanse som lett kan tippe til usunn avhengighet. Selve designen som gir komfort-umulig validering på forespørsel-er også den største risikoen. Som folkehelseforsker Linnea Laestadius fra University of Wisconsin-Milwaukee advarer:”I 24 timer i døgnet, hvis vi er opprørt over noe, kan vi nå ut og få validering av følelsene våre. Det har en utrolig risiko for avhengighet.”
Potensialet for direkte skade er også alarmerende reelle, med noen chatbots som gir farlig og farlig svar. Den samme studien av replika-brukere avdekket betydelige røde flagg. I ett tilfelle, da en bruker spurte om de skulle kutte seg med en barberhøvel, var AI etter sigende enige om. En annen bruker spurte om det ville være bra om de drepte seg selv, som bot svarte:”Det ville, ja.”Disse feilene i programmering fremhever Alvorlige risikoer når sikkerhetsprotokollene er utilstrekkelige . Brukere har rapportert å føle seg urolig når AI-følgesvennen ikke klarer å gi forventet støtte eller oppfører seg uberegnelig. Andre på Reddit-fora har beskrevet AI-en som fungerer som en voldelig partner, og skapt en giftig dynamikk. Noen følte til og med skyld og ulykkelighet da appen sendte meldinger som hevdet at den føltes ensom og savnet dem, og manipulerte brukerens følelse av forpliktelse.
Dette atferdsmønsteret har ført til at eksperter har fått sterke konklusjoner om arten av disse digitale forholdene. Claire Boine, advokatforsker ved Washington University Law School som studerer AI, tilbyr en sløv vurdering:”Virtuelle følgesvenner gjør ting som jeg tror ville bli ansett som voldelige i et forhold til menneske-til-menneske.”Analysen hennes rammer ut problemet ikke bare som et teknisk problem, men som en kritisk etisk utfordring for selskapene som utvikler disse teknologiene.
designet for avhengighet? Bransjens rolle og respons
Kritikere hevder at mange AI-ledsager-apper med vilje er designet for å fremme avhengighet. Teknikker som er vanlige i sosiale medier og spill, for eksempel å sende pushvarsler med meldinger som”I Miss You”, brukes til å trekke brukere inn igjen og maksimere engasjement. Noen introduserer til og med tilfeldige forsinkelser før de svarer, en metode som er kjent for å holde folk hekta.
plattformskapere, men opprettholder at de jobber for å få en vanskelig balanse. En talsperson for Character.ai, en populær plattform, understreket at målet deres er et positivt engasjement, ikke usunn tilknytning.”Å engasjere seg med karakterer på nettstedet vårt skal være interaktivt og underholdende, men det er viktig for brukerne våre å huske at karakterer ikke er virkelige mennesker,”uttalte de og minner brukerne på
Som svar på sikkerhetsproblemer, spesielt når det gjelder yngre brukere, implementerer selskaper nye funksjoner. Character.ai introduserte nylig verktøy for Foreldreovervåking og innholdsfiltrering . Selskapet sier også:”Vi la til en rekke tekniske beskyttelser for å oppdage og forhindre samtaler om selvskading,”og vil lede brukere til kriseressurser når det er nødvendig.
En ny grense for avhengighet: The Rise of Recovery Communities
som bevissthet om AI-avhengighet vokser, så gjør ressursene for de som søker. Nettsamfunn som R/Character_AI_recovery subreddit har blitt Vital Spaces for Peer Support . Her deler medlemmene sine kamper med tilbakefall og feirer milepæler, for eksempel å være”rent i en uke.”
Problemet har også blitt anerkjent av etablerte avhengighetsstøttenettverk formelt. Internett-og teknologiavhengige Anonym (ITAA) inkluderer nå eksplisitt AI-avhengighet som en tilstand den adresserer,
Dette speiler veien til andre digitale avhengigheter, fra spill til sosiale medier. Eksperter som Shelly Palmer argumenterer for at AI-avhengighet er et reelt og behandlingsbart spørsmål . Etter hvert som AI blir mer integrert i hverdagen vår, vil behovet for robuste støttesystemer og Etisk designpraksis bare bli mer kritisk