Reddit is preparing a significant overhaul of its user verification processes, a move spurred by an ethically dubious AI bot experiment that flooded one of its forums and heightened concerns about platform authenticity.
In a recent Blogin viesti , toimitusjohtaja Steve Huffman ylitti suunnitelman, joka on “pitänyt”-suunnitelmaa, joka on “pitänyt ihmistä ja tapaamme ihmisen ja tapaamaan sitä, että tapaamme ihmisen ja tapaamaan ihmisen ja tapaamaan ihmisen ja tapaamaan ihmistä ja tapaamme ihmisen ja tapaamaan sitä Hieman lisätietoja.”“Specifically, we will need to know whether you are a human, and in some locations, if you are an adult.”
While acknowledging the need of these checks to combat AI manipulation and meet growing regulatory demands for age verification, Huffman attempted to reassure users about the platform’s core value of anonymity, emphasizing “But we never want to know your name or who you are.”and explaining “The way we will do this is by working with various third-party services that can provide us with the essential information and nothing else.”
This policy shift directly addresses the fallout from an unauthorized experiment conducted by University of Zürichin tutkijat, jotka käyttivät hienostuneita AI-robotteja R/Changemyview-alaluokkaan vuoden 2024 lopun ja vuoden 2025 alkupuolella. Nämä robotit lähettivät yli 1 700 kommenttia, esiintyneet arkaluontoiset ihmisen persoonat, kuten väärinkäytökset, ja käyttivät käyttäjän historioista kaavattuja henkilökohtaisia tietoja räätälöimään vakuuttavia väitteitä “Postin sisältöllä. and political orientation), as inferred from their posting history using another LLM.”
The incident drew sharp condemnation from subreddit moderators “People do not come here to discuss their views with AI or to be experimented upon.”Ja Reddit itse, kun yhtiön pääjohtaja kutsui kokeilua”mitä Zürichin yliopiston tiimi on syvästi väärin sekä moraalisella että oikeudellisella tasolla. Se rikkoo akateemisia tutkimuksia ja ihmisoikeuksien normeja, ja Redditin käyttäjäsopimus ja säännöt kielletään alalainan sääntöjen lisäksi”ja vahvistavat, että Reddit pyrkii oikeudellisiin vaatimuksiin tutkijoita vastaan < href="https://www.404media.co/reddit-issuing-formal-legal-demands-against-researchers-who-conducted-secret-ai-experiment-on-users/" target="_blank">404 Media.
The verification plan underscores a critical challenge for Reddit: preserving the anonymity with Huffman saying that “Anonymity is essential to Reddit,”while ensuring the platform remains a trusted space for human interaction.
“Reddit works because it’s human”, Huffman stated in his post. This tension is amplified by external pressures, including new laws in the UK and several US states requiring age checks online.
The UZH Experiment Sparking Change
The catalyst for this policy shift appears to be the controversial University of Zurich experiment. Between November 2024 and March 2025, researchers secretly used AI models like GPT-4o and Claude 3.5 Sonnet to post over 1,700 comments in the r/changemyview forum.
The AI employed advanced, ethically questionable techniques; Tutkijoiden luonnos , “Postin sisällön, LLMS: n ja poliittisen sijainnin ja poliittisen sijainnin ja poliittisen sijainnin ja poliittisen (sukupuolen. heidän lähettämishistoriastaan toisella LLM: llä.”Bots even adopted false identities, including posing as abuse survivors.
The subreddit’s moderators publicly condemned the unauthorized study, stating “People do not come here to discuss their views with AI or to be experimented upon.”, and filed an ethics complaint.
While the university issued a warning to the researchers, it controversially supported the study’s publication, arguing the Näkemykset ovat suuremmat kuin riskit “tuottaa tärkeitä näkemyksiä, ja riskit (esim. Trauma jne.) ovat minimaalisia. Tämä tarkoittaa, että julkaisemisen tukahduttaminen ei ole suhteessa tutkimuksen tuottamien oivallusten merkitykseen”. – a rationale strongly rejected by the moderators, with external ethics experts like Dr. Casey Fiesler calling the experimten “one of the worst violations of research ethics I’ve ever seen”.
The used approach contrasts sharply with controlled research efforts, such as OpenAI’s internal tests on AI persuasion, which used anonymized Reddit data in a closed environment.
Reddit’s Strategic Shift Towards Control
The planned verification system represents another step in Reddit’s broader trend towards centralizing platform governance and integrating AI. Tämä seuraa aiempia muutoksia, kuten moderaattorin kiristäminen hallitsee alaluokan tietosuoja-asetuksia vuoden 2023 API-mielenosoitusten jälkeen ja AI-käyttävien sääntöjen täytäntöönpanotyökalujen käyttöönottamisen jälkeen aiemmin tänä vuonna. Reddit kehitti nämä muutokset parantamaan käyttökokemusta sanomalla However, these changes also reduce the autonomy of volunteer moderators.
These platform shifts occur against a backdrop of Reddit achieving profitability for the first time in late 2024, fueled significantly by advertising growth and lucrative data licensing deals with Google and OpenAI. Toimitusjohtaja Huffman on äänestänyt Redditin ihmisen tuottaman tiedon arvosta AI-malleihin sanomalla, että”AI-mallit tarvitsevat ihmisen tietämystä ja Redditin sisältö on täynnä sitä”, samalla kun perustelee alustan päätöksen rajoittaa pääsyä yrityksille, jotka eivät maksa. “We’re not letting big tech use our data for free,”Huffman made clear.
AI’s Double-Edged Sword on Reddit
Reddit is embracing AI for specific functions, positioning it as a tool to enhance the platform rather than replace human interaction. Huffman korosti AI: n apuohjelmaa maltillisuudessa, turvallisuus-, käännös-ja virtausominaisuuksissa, kuten Reddit Answers, vuoden 2024 lopulla käynnistetty AI-hakutyökalu, joka on suunniteltu tekemään alustan laajasta tietokannasta helpommin saatavilla. Reddit väitti, että”AI-mallit tarvitsevat ihmisen tietämystä ja Redditin sisältö on täynnä sitä”. The company also introduced tools like Reddit Pro Trends for advertisers.
However, the potential for AI misuse remains a significant concern, as acknowledged by Huffman and amplified by the UZH incident. Haaste on AI: n etujen hyödyntäminen samalla kun suojataan alustan aitoutta. Industry leaders like Sam Altman have warned that AI could become “capable of superhuman persuasion well before it is superhuman at general intelligence”, raising ethical alarms across the tech sector.
Reddit’s move towards verification, while promising anonymity, reflects this complex balancing act in the evolving digital landscape. Huffman yritti myös tukahduttaa käyttäjän pelot vahvistamalla klassisen vanhan.Reddit-käyttöliittymän sulkemisen sanomalla:”Vain tosissasi. En tiedä miksi sanon tällaisia juttuja. Selvitämme kuinka työskennellä sen ympärillä ja pitää se verkossa niin kauan kuin ihmiset käyttävät sitä”huolimatta hänen aikaisemmasta jest-osastaan suuremmasta pylväästä, jossa hän totesi:”Vanhat.REDIT-skaala on skaala, joka on skaala. impossible to develop on, and it’s ugly af. We will be shutting it down at the end of the month.”
Navigating Anonymity in the Age of AI
Implementing verification without compromising anonymity presents a complex technical and ethical challenge. Huffmanin post ehdottaa, että luottaa kolmannen puolueen palveluihin. href=”https://dataconomy.com/2025/05/07/reddit-ai-bots-verify-users/”Target=”_ tyhjä”> datakonomia , joka vaatii usein hallituksen myöntämiä tunnuksia. Reddit already uses Persona for its Contributor Program verification.
However, privacy concerns persist, particularly regarding the potential for sensitive, anonymously shared information to be linked back to real identities if demanded by authorities.
Reddit insists it will remain “extremely protective of your personal information, and will continue to push back against excessive or unreasonable demands from public or private authorities,”Huffman stated, referencing the company’s Läpinäkyvyysraportti . Alusta pyrkii käyttämään AI: tä rakentavasti maltillisuuteen ja ominaisuuksiin, kuten Reddit-vastauksiin, samalla kun otetaan käyttöön uusia varmennustoimenpiteitä AI-pohjaisen manipulaation torjumiseksi, joka uhkaa sen ydinidentiteettiä tilana autenttiseen ihmisen vaihtoon.
