Reddit đang chuẩn bị một cuộc đại tu đáng kể về các quy trình xác minh người dùng của mình, một động thái được thúc đẩy bởi một thí nghiệm bot AI đáng ngờ về mặt đạo đức đã tràn ngập một trong những diễn đàn của nó và làm tăng mối quan tâm về tính xác thực của nền tảng. href=”https://www.reddit.com/user/spez/comments/1kfciml/reddits_next_chapter_smarter_easier_still_human Thêm thông tin.”Chúng tôi sẽ cần biết liệu bạn có phải là con người hay không, và ở một số địa điểm, nếu bạn là người lớn.”và giải thích về cách chúng tôi sẽ làm điều này là bằng cách làm việc với các dịch vụ bên thứ ba khác nhau có thể cung cấp cho chúng tôi thông tin cần thiết và không có gì khác.”Các nhà nghiên cứu, những người đã triển khai các bot AI tinh vi lên Subreddit R/Changemyview từ cuối năm 2024 đến đầu năm 2025. Định hướng chính trị), như được suy ra từ lịch sử đăng bài của họ bằng cách sử dụng một LLM khác.”Reddit, với chính giám đốc pháp lý của công ty, gọi cho thí nghiệm là những gì mà nhóm Đại học Zurich này đã làm là rất sai ở cả cấp độ đạo đức và pháp lý. href=”https://www.404media.co/reddit-issuing-formal-gal-demands-Against-researchers-who-undered-secret-AI-experiment-users Huffman nói rằng tính ẩn danh của người Viking là điều cần thiết đối với Reddit,”trong khi đảm bảo nền tảng vẫn là một không gian đáng tin cậy cho sự tương tác của con người. Sự căng thẳng này được khuếch đại bởi áp lực bên ngoài, bao gồm các luật mới ở Anh và một số tiểu bang Hoa Kỳ yêu cầu kiểm tra độ tuổi trực tuyến. Từ tháng 11 năm 2024 đến tháng 3 năm 2025, các nhà nghiên cứu đã bí mật sử dụng các mô hình AI như GPT-4O và Claude 3.5 Sonnet để đăng hơn 1.700 bình luận trong diễn đàn R/Changemyview. Theo như suy ra từ lịch sử đăng bài của họ bằng cách sử dụng một LLM khác.”Các bot thậm chí đã thông qua các danh tính sai, bao gồm đóng giả những người sống sót bị lạm dụng. Lập luận những hiểu biết lớn hơn các rủi ro mà mang lại những hiểu biết quan trọng và các rủi ro (ví dụ: chấn thương, v.v.) là tối thiểu. Điều này có nghĩa là việc ngăn chặn xuất bản không tương xứng với tầm quan trọng của những hiểu biết về sản lượng nghiên cứu.”. Kiểm soát
Hệ thống xác minh theo kế hoạch đại diện cho một bước khác trong xu hướng rộng hơn của Reddit, đối với việc quản trị nền tảng tập trung và tích hợp AI. Điều này theo sau các động thái trước đây như thắt chặt các điều khiển của người điều hành đối với các cài đặt quyền riêng tư subreddit sau các cuộc biểu tình API năm 2023 và đưa ra các công cụ thực thi quy tắc do AI cung cấp vào đầu năm nay. Reddit đóng khung những thay đổi này khi cải thiện trải nghiệm người dùng, nói rằng họ giúp mọi người dễ dàng tham gia vào Reddit, và hỗ trợ người điều hành. Tuy nhiên, những thay đổi này cũng làm giảm sự tự chủ của người điều hành tình nguyện. Giám đốc điều hành Huffman đã lên tiếng về giá trị của dữ liệu do con người do Reddit tạo ra để đào tạo các mô hình AI, nói rằng các mô hình AI AI cần kiến thức của con người và nội dung của Reddit, đầy đủ”, trong khi biện minh cho quyết định của nền tảng để hạn chế quyền truy cập cho các công ty không trả tiền. Chúng tôi không cho phép công nghệ lớn sử dụng dữ liệu của chúng tôi miễn phí,”Huffman nói rõ. Huffman nhấn mạnh tiện ích AI, về kiểm duyệt, an toàn, dịch thuật và các tính năng cung cấp năng lượng như Reddit Answers, công cụ tìm kiếm AI được ra mắt vào cuối năm 2024 được thiết kế để làm cho nền tảng của nền tảng kiến thức rộng lớn dễ tiếp cận hơn. Reddit lập luận rằng các mô hình AI AI cần kiến thức của con người và nội dung của Reddit, đầy đủ.”Công ty cũng giới thiệu các công cụ như xu hướng Reddit Pro cho các nhà quảng cáo. Thách thức nằm ở việc tận dụng các lợi ích của AI, trong khi bảo vệ tính xác thực của nền tảng. Các nhà lãnh đạo ngành công nghiệp như Sam Altman đã cảnh báo rằng AI có thể trở thành người có khả năng thuyết phục siêu phàm trước khi nó siêu phàm về tình báo chung”, làm tăng các báo động đạo đức trong lĩnh vực công nghệ. Huffman cũng tìm cách dập tắt nỗi sợ hãi của người dùng bằng cách xác nhận giao diện cổ điển cũ. Không thể phát triển, và nó xấu xí AF. Dataconomy , thường yêu cầu ID do chính phủ cấp. Reddit đã sử dụng persona cho Báo cáo minh bạch . Nền tảng này nhằm mục đích sử dụng AI một cách xây dựng để điều độ và các tính năng như Reddit Answers, đồng thời triển khai các biện pháp xác minh mới để chống lại các thao tác điều khiển AI đe dọa bản sắc cốt lõi của nó như là một không gian để trao đổi chính xác của con người.
