Redditは、ユーザー検証プロセスの大幅なオーバーホールを準備しています。これは、フォーラムの1つを浸水させ、プラットフォームの信頼性に関する懸念を高めた倫理的に疑わしいAIボット実験によって拍車がかかっています。
href=”https://www.reddit.com/user/spez/comments/1kfciml/reddits_next_chapter_smarter_easier_still_human/” target=”_blank”>blog post, CEO Steve Huffman outlined the plan, stating “To keep Reddit human and to meet evolving regulatory requirements, we are going to need aもう少し情報。」 「具体的には、あなたが大人である場合、あなたが人間であるかどうか、そしていくつかの場所では、AIの操作と戦うためのこれらのチェックの必要性を認め、年齢検証のための規制の増大に応える必要性を認めながら、ハフマンはプラットフォームのコアの価値についてユーザーを安心させようとしました。 「これを行う方法は、重要な情報を提供できるさまざまなサードパーティサービスと協力することです。」 2024年後半から2025年初頭の間に洗練されたAIボットをR/ShangeView Subredditに洗練されたAIボットを展開したチューリッヒの研究者。これらのボットは、1,700以上のコメント、虐待サバイバーのような繊細な人間の人間の人格を掲載し、ユーザー歴史からスクレイプされた個人データを使用して、Pressive Attranibutesに加えて、老人の老人に加えて、老化した属性に加えて、個人データを使用しました。別のLLMを使用して投稿履歴から推測されるように、場所、および政治的オリエンテーション）。”
この事件は、subredditモデレーターから鋭い非難を引き出しました。そして、Reddit自体は、同社の最高法務責任者が実験を「このチューリッヒ大学のチームがしたことは、道徳的および法的レベルの両方で深く間違っている。学術研究と人権の規範に違反し、Redditのユーザー契約と規則に違反し、サブレディットの規則に加えて禁止されており、Redditは、研究者に対する法的要求を追求していることを確認していることを確認した。 href=”https://www.404media.co/reddit-issuinuinuinuinuinuinuinuinuinuinuinuinuing-formal-legal-demands-against-researchers-who-onducted-conducted-conducted-conducted-conded-conted-ai-experiment-on-users/”target=”_ blank”> 404 medie 。ハフマンは、「匿名性はredditに不可欠である」と言っているが、プラットフォームが人間の相互作用のための信頼できるスペースであり続けることを保証する。この緊張は、英国の新しい法律やオンラインで年齢チェックを必要とするいくつかの米国の州を含む外部圧力によって増幅されます。 2024年11月から2025年3月の間に、研究者は密かにGPT-4OやClaude 3.5 SonnetなどのAIモデルを使用して、R/ShangeViewフォーラムに1,700以上のコメントを投稿しました。 研究者のドラフトペーパー、「Podital erterimationに加えて、as、op（gender、op（gender）、gendute、（gender）for politative as for estute、（gender、op（gender」別のLLMを使用して投稿履歴から推測されました。」虐待サバイバーとしてのポーズを含む誤ったアイデンティティさえ採用しました。 「重要な洞察をもたらし、リスク（例えばトラウマなど）は最小限であるというリスクを上回りました。これは、出版物を抑制することは、研究が得る洞察の重要性に比例しないことを意味します。」-モデレーターによって強く拒否された理論的根拠は、ケーシー・フィーズラー博士のような外部倫理の専門家が実験を「これまでに見た研究倫理の最悪の違反の1つ」と呼んでいます。制御
計画された検証システムは、プラットフォームガバナンスを集中化してAIを統合するためのRedditのより広範な傾向のもう1つのステップを表しています。これは、2023年のAPI抗議に続いて、SubredDitプライバシー設定に対するモデレーターコントロールを引き締めるなど、以前の動きに続き、今年初めにAIを搭載したルール執行ツールを展開します。 Redditは、これらの変更をユーザーエクスペリエンスの改善と組み立て、「誰もがRedditに参加しやすくする」と言って、モデレーターを支援しました。ただし、これらの変更は、ボランティアモデレーターの自律性も低下させます。
これらのプラットフォームシフトは、2024年後半に初めて収益性を達成するRedditの背景に対して発生します。 CEO Huffmanは、AIモデルをトレーニングするためのRedditの人間生成データの価値について声を上げており、「AIモデルには人間の知識が必要であり、Redditのコンテンツはそれでいっぱいです」と述べています。 「私たちは大手技術者にデータを無料で使用させていません」とハフマンは明らかにしました。 Huffmanは、AIの適度、安全性、翻訳、およびReddit Answersなどの機能における機能を強調しました。これは、2024年後半に発売されたAI検索ツールであり、プラットフォームの膨大な知識ベースをよりアクセスしやすくするように設計されています。 Redditは、「AIモデルには人間の知識が必要であり、Redditのコンテンツはそれでいっぱいです」と主張しました。同社はまた、広告主向けのReddit Proのトレンドなどのツールを導入しました。
しかし、Huffmanによって認められ、UZH事件によって増幅されたAI誤用の可能性は依然として重要な懸念のままです。この課題は、プラットフォームの信頼性を保護しながら、AIの利点を活用することにあります。サム・アルトマンのような業界のリーダーは、AIが「一般的な知能における超人的になるかなり前に超人的な説得が可能になる可能性がある」と警告しており、テクノロジー部門全体で倫理的アラームを上げています。ハフマンはまた、古典的な古い.redditインターフェースがシャットダウンされていないことを確認することでユーザーの恐怖を鎮めようとしました。「冗談です。なぜ私はこのようなことを言う方法を見つけて、人々がそれを使用している限りオンラインにする方法を見つけます」開発することは不可能であり、醜いAFです。」
Aighe
の匿名性を妥協することなく、匿名を妥協することは、複雑な技術的および倫理的な課題を提示します。 huffman’s post href=”https://dataconomy.com/2025/05/07/reddit-ai-bots-verify-users/”ターゲット=”_ blank”>データ科学。 Reddit already uses Persona for its Contributor Program verification.
However, privacy concerns persist, particularly regarding the potential for sensitive,匿名で共有された情報は、当局から要求された場合、実際のアイデンティティにリンクされます。 href=”https://redditinc.com/policies/transparency-report-july-to-december-2024″ターゲット=”_ blank”>透明レポート。このプラットフォームは、AIを緩和の回答などの節度や機能のために建設的に使用することを目的としていますが、本物の人間の交換のための空間としてのコアアイデンティティを脅かすAI駆動型の操作をかわすための新しい検証手段を展開することを目的としています。