Reddit sedang menyediakan pembaikan penting proses pengesahan penggunanya, langkah yang didorong oleh eksperimen bot AI yang diragui secara etika yang membanjiri salah satu forumnya dan meningkatkan kebimbangan mengenai keaslian platform.
href=”https://www.reddit.com/user/spez/comments/1kfciml/reddits_next_chapter_smarter_easier_still_human/”target=”_ blank”> blog post Perlu sedikit maklumat.””Khususnya, kita perlu tahu sama ada anda seorang manusia, dan di beberapa lokasi, jika anda dewasa.”dan menjelaskan”Cara kami akan melakukan ini adalah dengan bekerja dengan pelbagai perkhidmatan pihak ketiga yang dapat memberikan kami maklumat penting dan tidak ada yang lain.”Penyelidik, yang mengerahkan bot AI yang canggih ke subreddit R/Changemyview antara akhir tahun 2024 dan awal 2025. Bot-bot ini menyiarkan lebih daripada 1,700 komen, menyamar sebagai orang yang sensitif seperti penyalahgunaan, dan menggunakan dana, dan orientasi politik), seperti yang disimpulkan dari sejarah pengeposan mereka menggunakan LLM yang lain.”
Kejadian itu menarik kutukan tajam dari moderator subreddit”Orang tidak datang ke sini untuk membincangkan pandangan mereka dengan AI atau untuk diuji.”dan Reddit sendiri, dengan ketua pegawai undang-undang syarikat yang memanggil eksperimen”apa yang dilakukan oleh pasukan Universiti Zurich ini sangat salah pada tahap moral dan undang-undang. href=”https://www.404media.co/reddit-issuing-formal-legal-demands-against-researchers-who-conducted-secret-ai-experiment-on-users/”target=”_ blank”Ketidakpastian dengan Huffman mengatakan bahawa”tidak mahu namanya disiarkan adalah penting untuk reddit,”sambil memastikan platform tetap menjadi ruang yang dipercayai untuk interaksi manusia.
“Reddit berfungsi kerana manusia”, Huffman menyatakan dalam jawatannya. Ketegangan ini dikuatkan oleh tekanan luaran, termasuk undang-undang baru di UK dan beberapa negara AS yang memerlukan pemeriksaan umur dalam talian. Antara November 2024 dan Mac 2025, para penyelidik diam-diam menggunakan model AI seperti GPT-4O dan Claude 3.5 sonnet untuk menyiarkan lebih daripada 1,700 komen dalam Forum R/Changemyview. Menurut Sistem pengesahan yang dirancang mewakili satu lagi langkah dalam trend Reddit yang lebih luas ke arah memusatkan tadbir urus platform dan mengintegrasikan AI. Ini mengikuti langkah-langkah terdahulu seperti pengetatan pengendalian moderator ke atas tetapan privasi subreddit berikutan protes API 2023 dan melancarkan alat penguatkuasaan peraturan AI yang berkuasa awal tahun ini. Reddit membingkai perubahan ini sebagai meningkatkan pengalaman pengguna, dengan mengatakan mereka”memudahkan semua orang untuk mengambil bahagian di Reddit,”dan membantu moderator. Walau bagaimanapun, perubahan ini juga mengurangkan autonomi moderator sukarelawan. Peralihan platform ini berlaku terhadap latar belakang Reddit yang mencapai keuntungan untuk kali pertama pada akhir 2024, didorong dengan ketara oleh pertumbuhan pengiklanan dan pengiklanan data pelesenan yang menguntungkan dengan Google dan Openai. Ketua Pegawai Eksekutif Huffman telah bersuara mengenai nilai data yang dihasilkan oleh Reddit untuk latihan model AI, dengan mengatakan bahawa”model AI memerlukan pengetahuan manusia, dan kandungan Reddit penuh dengannya”, sambil membenarkan keputusan platform untuk menyekat akses kepada syarikat yang tidak membayar.”Kami tidak membiarkan teknologi besar menggunakan data kami secara percuma,”kata Huffman. Huffman menyerlahkan utiliti AI dalam ciri-ciri kesederhanaan, keselamatan, terjemahan, dan powering seperti Reddit Answers, alat carian AI yang dilancarkan pada akhir 2024 yang direka untuk menjadikan asas pengetahuan platform lebih mudah diakses. Reddit berhujah bahawa”model AI memerlukan pengetahuan manusia, dan kandungan Reddit penuh dengannya.”Syarikat itu juga memperkenalkan alat seperti Reddit Pro Trends untuk pengiklan. Cabarannya terletak pada memanfaatkan faedah AI sambil melindungi keaslian platform. Pemimpin industri seperti Sam Altman telah memberi amaran bahawa AI boleh menjadi”mampu memujuk manusia yang luar biasa sebelum ia adalah manusia yang luar biasa pada kecerdasan umum”, meningkatkan penggera etika di seluruh sektor teknologi. Huffman juga berusaha untuk memadamkan kebimbangan pengguna dengan mengesahkan antara muka lama yang klasik. Antara muka Reddit tidak ditutup, berkata”Hanya bercanda, saya tidak tahu mengapa saya mengatakan perkara seperti ini. Skala, mustahil untuk berkembang, dan ia adalah AF yang hodoh. dataconomy , yang sering memerlukan ID yang diterbitkan oleh kerajaan. Reddit sudah menggunakan persona untuk Laporan ketelusan . Platform ini bertujuan untuk menggunakan AI secara konstruktif untuk kesederhanaan dan ciri-ciri seperti Reddit Answers, sambil menggunakan langkah-langkah pengesahan baru untuk menangkis manipulasi yang didorong oleh AI yang mengancam identiti terasnya sebagai ruang untuk pertukaran manusia yang sahih.