Reddit está preparando uma revisão significativa de seus processos de verificação de usuário, um movimento estimulado por um experimento de AI eticamente duvidoso que inundou um de seus fóruns e preocupações aumentadas sobre a autenticidade da plataforma.
Em um recente blog post , o cce um pouco mais de informação.”“Especificamente, precisaremos saber se você é humano e, em alguns locais, se você é um adulto.”
Ao reconhecer a necessidade dessas verificações para combater a manipulação da IA e atender à crescente demanda regulatória da sua verificação de idade, que nunca se esforçam para realizar os usuários da sua plataforma de anonimidade, enfatizando. e explicando “a maneira como faremos isso é trabalhando com vários serviços de terceiros que podem nos fornecer as informações essenciais e nada mais. researchers, who deployed sophisticated AI bots onto the r/changemyview subreddit between late 2024 and early 2025. These bots posted over 1,700 comments, impersonated sensitive human personas like abuse survivors, and used personal data scraped from user histories to tailor persuasive arguments “in addition to the post’s content, LLMs were provided with personal attributes of the OP (gender, age, ethnicity, location, and political orientação), como inferido de sua história de publicação usando outro LLM.”
O incidente atraiu a condenação acentuada dos moderadores do subreddit”As pessoas não vêm aqui para discutir suas opiniões com a IA ou para serem experimentadas”. E o próprio Reddit, com o diretor jurídico da empresa chamando o experimento de”o que essa equipe da Universidade de Zurique fez é profundamente errada tanto em um nível moral quanto legal. Isso viola a pesquisa acadêmica e as normas de direitos humanos e é proibido pelo contrato de usuário do Reddit e regras, além das regras do subreddit”, e confirmando o Reddit que buscava demandas legais contra os pesquisadores, de acordo com os pesquisadores de acordo com os pesquisadores de acordo com os pesquisadores, de acordo com os pesquisadores de acordo com os pesquisadores,”, e confirmando as demandas legais contra os pesquisadores, de acordo com os pesquisadores de acordo com os pesquisadores,”href=”https://www.404media.co/reddit-issuing-formal-legal-demands-against-resesearchers-who-conduted-secret-ai-experiment-users/”Target=”_”404 404 .
Huffman dizendo que”o anonimato é essencial para o Reddit”, garantindo que a plataforma continue sendo um espaço confiável para a interação humana.
“Reddit funciona porque é humano”, afirmou Huffman em seu cargo. Essa tensão é amplificada por pressões externas, incluindo novas leis no Reino Unido e vários estados dos EUA que exigem verificações de idade on-line. Entre novembro de 2024 e março de 2025, os pesquisadores secretamente usaram modelos de IA como GPT-4O e Claude 3,5 sonetos para publicar mais de 1.700 comentários no fórum R/ChanGemyview.
A IA empregou técnicas avançadas e eticamente questionáveis; De acordo com o Draft de Pollitutas ,”Além do conteúdo da postagem, LLMS foram fornecidos”. da história da publicação usando outro LLM.”Os bots até adotaram identidades falsas, incluindo posar como sobreviventes de abuso. As idéias superaram os riscos”produz insights importantes e os riscos (por exemplo, trauma etc.) são mínimos. Isso significa que a supressão da publicação não é proporcional à importância dos insights que o estudo rende”.-Uma justificativa fortemente rejeitada pelos moderadores, com especialistas em ética externa como o Dr. Casey Fiesler chamando o experimento de”uma das piores violações da ética da pesquisa que eu já vi”. Controle
O sistema de verificação planejado representa outra etapa na tendência mais ampla do Reddit para centralizar a governança da plataforma e a integração da IA. Isso segue movimentos anteriores, como apertar os controles do moderador sobre as configurações de privacidade do subreddit após os protestos da API 2023 e lançar ferramentas de aplicação de regras movidas a IA no início deste ano. O Reddit enquadrou essas mudanças como melhoria da experiência do usuário, dizendo que”facilitam a participação de todos no Reddit”e auxiliando moderadores. No entanto, essas mudanças também reduzem a autonomia dos moderadores voluntários. O CEO Huffman tem sido vocal sobre o valor dos dados gerados por humanos do Reddit para o treinamento de modelos de IA, dizendo que”os modelos de IA precisam de conhecimento humano, e o conteúdo do Reddit está cheio”, justificando a decisão da plataforma de restringir o acesso para empresas que não pagam.”Não estamos deixando que a grande tecnologia use nossos dados gratuitamente”, Huffman deixou claro. Huffman destacou os utilidade da IA em modaneração, segurança, tradução e recursos de energia, como o Reddit Answers, a ferramenta de pesquisa de IA lançada no final de 2024, projetada para tornar a vasta base de conhecimento da plataforma mais acessível. Reddit argumentou que”os modelos de IA precisam de conhecimento humano, e o conteúdo do Reddit está cheio disso”. A empresa também introduziu ferramentas como o Reddit Pro Trends for anunciantes.
No entanto, o potencial de uso indevido de IA continua sendo uma preocupação significativa, conforme reconhecido por Huffman e amplificado pelo incidente da UZH. O desafio reside em alavancar os benefícios da IA e proteger a autenticidade da plataforma. Líderes da indústria como Sam Altman alertaram que a IA poderia se tornar”capaz de persuasão sobre-humana bem antes de ser sobre-humana na inteligência geral”, aumentando alarmes éticos em todo o setor de tecnologia. Huffman também procurou reprimir os temores do usuário, confirmando o clássico antigo.Reddit Interface não está sendo desligado, dizendo”apenas brincando. Não sei por que digo coisas assim. Vamos descobrir como contorná-lo e mantê-lo on-line, desde que as pessoas sejam usadas”, apesar de ter um ponto de vista mais alto, como o dia de retroilvância, o que é necessário, o que há de um pós-publicado na segunda-feira, que é necessário, o que há de fundo. Impossível desenvolver, e é feio AF. Huffman Post sugere que se depere em terceiro lugar href=”https://dataconomy.com/2025/05/07/reddit-ai-bots-verify-users/”Target=”_ Blank”> dataconomy , que geralmente requerem identificações emitidas pelo governo. O Reddit já usa Persona para seu Relatório de transparência . A plataforma pretende usar a IA de forma construtiva para moderação e recursos como respostas do Reddit, enquanto implanta novas medidas de verificação para afastar a manipulação acionada por IA que ameaça sua identidade central como espaço para troca humana autêntica.