reddit正在準備對其用戶驗證過程進行重大大修，這一舉動受到道德可疑的AI機器人的實驗的刺激，該實驗淹沒了其一個論壇，並加劇了對平台真實性的擔憂。
在最近的 href=“ https://www.reddit.com/user/spez/comments/1kfciml/reddits_next_next_next_chapter_smarter_smarter_smarter_smarter_aseier_still_still_human/” target=“ _ black”>博客帖子更多信息。 ” “具體來說，我們需要知道您是否是人類，在某些地方，如果您是成年人。 ” 同時承認需要這些檢查以對抗AI操縱並滿足對年齡驗證的日益增長的監管需求，Huffman試圖將用戶提高到平台的核心價值，以使您的名字不願意，我們不知道您的名字或您的名字或您的名字，或者您是您的名字或您的名字。”並解釋“我們將做到這一點的方式是通過使用各種可以為我們提供基本信息而別無其他的服務的服務。蘇黎世的研究人員在2024年末至2025年初部署了複雜的AI在R/Changemyview Subreddit上，這些機器人發表了1,700多個評論，諸如虐待倖存者之類的敏感人類角色，並使用了從用戶歷史上刮除的個人數據來量身定制了具有說明性的eTer eThnnic tatnnic atnnic atnnic atnnic tatnnic op tatnnic op tatnnic op tatnnic tatnnic op tatnnic of（e）和政治取向），從他們的發布歷史使用另一個LLM中推斷出來。” 這一事件引起了Subreddit主持人的敏銳譴責:“人們不來這裡與AI討論他們的觀點或進行實驗。”以及Reddit本身，公司首席法律官稱實驗為“蘇黎世大學團隊在道德和法律層面上所做的事情是完全錯誤的。它違反了學術研究和人權規範，並由Reddit的用戶同意和規則所禁止，除了對SubReddit規則，“又一次的法律需求”，以及確認法律要求，違反了研究人員。 href=”https://www.404media.co/reddit-issuing-formal-legal-demands-against-researchers-who-conducted-secret-ai-experiment-on-users/” target=”_blank”>404 Media. The verification plan underscores a critical challenge for Reddit: preserving the anonymity霍夫曼（Huffman）說“匿名對於reddit至關重要”，同時確保平台仍然是人類互動的一個值得信賴的空間。 “ reddit是因為它是人類的，因為它是人類的”，霍夫曼在他的帖子中說。這種張力會受到外部壓力的擴大，包括英國和幾個需要在線年齡檢查的美國國家。 這種政策轉變的催化劑似乎是有爭議的蘇里奇大學實驗。在2024年11月至2025年3月之間，研究人員秘密地使用了諸如GPT-4O和Claude 3.5十四行詩之類的AI模型在R/Changemyview論壇中發布了1,700多個評論。 AI採用的AI採用高級，道德上可疑的技術； according to the researchers’ draft paper, “in addition to the post’s content, LLMs were provided with personal attributes of the OP (gender, age, ethnicity, location, and political orientation), as從他們的發布歷史記錄中推斷出使用另一個LLM。”機器人甚至採用虛假身份，包括作為虐待倖存者的擺姿勢。 subreddit的主持人公開譴責未經授權的研究，指出“人們不會來這裡與人工智能討論他們的觀點或進行實驗或進行實驗。”，並提出了一項倫理投訴。洞察力超過了風險“產生重要的見解，風險（例如創傷等）很少。這意味著抑制出版物與研究產生的見解的重要性不成比例。”-主持人強烈拒絕的基本原理，例如凱西·菲斯勒（Casey Fiesler）博士（Casey Fiesler博士）稱實驗為“我見過的最嚴重侵犯研究倫理的最嚴重侵犯之一”。 Control
計劃的驗證系統代表了Reddit更廣泛的趨勢，以集中平台治理和整合AI。這是先前的舉動，例如在2023年API抗議活動之後對SubReddit隱私設置進行了緊縮控制器的控制，並於今年早些時候推出了AI驅動的規則執法工具。 Reddit將這些更改框起來是改善用戶體驗，稱它們“使每個人更容易參與Reddit”，並有助於主持人。但是，這些變化也降低了志願者主持人的自主權。 這些平台變化在Reddit的背景下發生在2024年底首次實現盈利能力的背景下，通過與Google和Openai的廣告增長和利潤豐富的數據許可協議大大促進了盈利能力。首席執行官霍夫曼（Huffman）一直對Reddit人類生成的數據對培訓AI模型的價值發聲，並說“ AI模型需要人類知識，Reddit的內容充滿了它”，同時證明了平台決定限制不付費的公司的訪問權。霍夫曼（Huffman）明確表示:“我們並不是讓大型技術免費使用我們的數據。霍夫曼（Huffman）強調了AI在適度，安全性，翻譯和諸如Reddit Answers（Reddit Answers）的功能方面的實用程序，該功能是2024年末推出的AI搜索工具，旨在使該平台的龐大知識庫更容易訪問。 Reddit認為“ AI模型需要人類知識，Reddit的內容充滿了知識。 “該公司還為廣告商引入了諸如Reddit Pro趨勢之類的工具。 但是，霍夫曼（Huffman）承認，AI濫用的潛力仍然是一個重大問題，並被UZH事件放大了。挑戰在於利用AI的福利，同時維護平台的真實性。像Sam Altman這樣的行業領導人警告說，AI可以“在成為一般情報的超人之前就可以“能夠在超人人口之前”，從而提高了整個技術領域的道德警報。 reddit朝著驗證的努力，同時有望匿名，反映了這種複雜的匿名行動，反映了這種複雜的數字數字景觀。霍夫曼還試圖通過確認經典的舊舊。不被關閉，說:“只是開玩笑。我不知道為什麼我會這樣說的話。我們會弄清楚如何在上網上工作並保持在線上，只要他在網上使用它，“儘管他早些時候開玩笑地說明了一個較大的帖子，他在周一發表了一部分，他說:“舊的。這是不可能的，這很醜陋。 Huffman’s post suggests relying on third-party services, potentially similar to identity platforms like Persona or Stripe Identity mentioned by dataconomy ，通常需要政府發出的ID。 reddit已經使用角色 privecor 如果當局要求，匿名共享的信息將鏈接到真實身份。 reddit堅持認為，它將“對您的個人信息極為保護，並將繼續反對公共或私人當局的過度或不合理的要求，”霍夫曼指出，該公司的透明度報告。該平台旨在建設性地將AI用於節制和諸如Reddit答案之類的功能，同時採用新的驗證措施來抵禦AI驅動的操縱，以威脅其核心身份，作為真實人類交換的空間。 UZH實驗引發了變化