Reddit sekarang mengamanatkan verifikasi, mengutip masalah AI bot setelah studi penelitian kontroversial

Reddit sedang mempersiapkan perombakan yang signifikan dari proses verifikasi penggunanya, sebuah langkah yang didorong oleh eksperimen AI bot yang meragukan secara etis yang membanjiri salah satu forumnya dan meningkatnya kekhawatiran tentang keaslian platform.

Dalam

Sambil mengakui perlunya cek ini untuk memerangi manipulasi AI dan memenuhi tuntutan peraturan yang semakin besar untuk verifikasi usia, kami berusaha untuk mengulangi pengguna tentang nilai inti dari platform, tetapi kami tidak tahu apa-apa. dan menjelaskan “cara kami akan melakukan ini adalah dengan bekerja dengan berbagai layanan pihak ketiga yang dapat memberi kami informasi penting dan tidak ada yang lain.”

Peristiwa itu menarik penghukuman tajam dari moderator subreddit,“ Orang tidak datang ke sini untuk membahas pandangan mereka dengan AI atau untuk dieksperimen. ” Dan Reddit sendiri, dengan kepala pejabat hukum perusahaan menyebut eksperimen “apa yang dilakukan tim University of Zurich ini sangat salah baik pada tingkat moral dan hukum. Ini melanggar penelitian akademik dan norma-norma hak asasi manusia, dan dilarang oleh Perjanjian dan Peraturan Pengguna Reddit, di samping aturan Subreddit, dan mengkonfirmasi Reddit adalah mengejar permintaan hukum terhadap para peneliti, di samping para peneliti, menurut A aturan A, dan mengonfirmasi Reddit adalah mengejar tuntutan hukum terhadap para peneliti, di samping peneliti, menurut A reddit, di samping peneliti, di samping peneliti, dan mengonfirmasi Reddit yang mengejar peneliti terhadap para peneliti terhadap para peneliti, di samping A. href=”https://www.404media.co/reddit-isu-formal-legal-demands-against-searchers-who-conducted-secret-ai-experiment-on-users: target=”_ blank”> 404 media Dengan Huffman mengatakan bahwa”anonimitas sangat penting untuk reddit,”sambil memastikan platform tetap menjadi ruang tepercaya untuk interaksi manusia.

“Reddit bekerja karena itu manusia”, kata Huffman dalam jabatannya. Ketegangan ini diamplifikasi oleh tekanan eksternal, termasuk undang-undang baru di Inggris dan beberapa negara bagian AS yang memerlukan pemeriksaan usia secara online.

Eksperimen UZH yang memicu perubahan

Katalis untuk pergeseran kebijakan ini tampaknya merupakan eksperimen Universitas Zurich yang kontroversial. Antara November 2024 dan Maret 2025, para peneliti secara diam-diam menggunakan model AI seperti GPT-4O dan Claude 3.5 soneta untuk memposting lebih dari 1.700 komentar di forum R/ChangemyView.

AI menggunakan teknik canggih, yang dipertanyakan secara etis; Menurut ,”selain dari konten pos, LLM disediakan dengan atribute pribadi dari atribute pribadi dari riwayat posting mereka menggunakan LLM lain.”Bot bahkan mengadopsi identitas palsu, termasuk menyamar sebagai penyintas pelecehan.

Moderator subreddit secara terbuka mengutuk penelitian yang tidak sah, yang menyatakan”orang tidak datang ke sini untuk membahas pandangan mereka dengan AI atau untuk dieksperimen dengan peneliti yang dikeluarkan, dan mengajukan peneliti,

yang diterbitkan oleh para peneliti, di Universitas. Wawasan melebihi risiko “menghasilkan wawasan penting, dan risikonya (mis. Trauma dll.) Minimal. Ini berarti bahwa menekan publikasi tidak proporsional dengan pentingnya wawasan yang dihasilkan penelitian.”-Dasar pemikiran yang sangat ditolak oleh moderator, dengan para ahli etika eksternal seperti Dr. Casey Fiesler menyebut Eksperimen”salah satu pelanggaran terburuk dari etika penelitian yang pernah saya lihat”.

Pendekatan yang digunakan kontras secara tajam dengan upaya penelitian yang terkontrol, seperti uji internal Openai. Kontrol

Sistem verifikasi yang direncanakan mewakili langkah lain dalam tren Reddit yang lebih luas menuju tata kelola platform sentralisasi dan mengintegrasikan AI. Ini mengikuti gerakan sebelumnya seperti pengetatan kontrol moderator atas pengaturan privasi subreddit setelah protes API 2023 dan meluncurkan alat penegakan aturan bertenaga AI awal tahun ini. Reddit membingkai perubahan ini sebagai peningkatan pengalaman pengguna, mengatakan mereka “memudahkan semua orang untuk berpartisipasi di Reddit,” dan membantu moderator. Namun, perubahan ini juga mengurangi otonomi moderator sukarelawan.

Pergeseran platform ini terjadi dengan latar belakang Reddit yang mencapai profitabilitas untuk pertama kalinya pada akhir 2024, didorong secara signifikan oleh pertumbuhan iklan dan penawaran lisensi data yang menguntungkan dengan Google dan Openai. CEO Huffman telah vokal tentang nilai data yang dihasilkan manusia Reddit untuk melatih model AI, mengatakan bahwa”model AI membutuhkan pengetahuan manusia, dan konten Reddit penuh dengan itu”, sambil membenarkan keputusan platform untuk membatasi akses bagi perusahaan yang tidak membayar.”Kami tidak membiarkan teknologi besar menggunakan data kami secara gratis,”Huffman memperjelas.

Pedang bermata dua AI pada Reddit

Reddit merangkul AI untuk fungsi tertentu, memposisikannya sebagai alat untuk meningkatkan platform daripada menggantikan interaksi manusia. Huffman menyoroti utilitas AI dalam moderasi, keselamatan, terjemahan, dan fitur daya yang kuat seperti Reddit Answers, alat pencarian AI yang diluncurkan pada akhir 2024 yang dirancang untuk membuat basis pengetahuan platform yang luas lebih mudah diakses. Reddit berpendapat bahwa”model AI membutuhkan pengetahuan manusia, dan konten Reddit penuh dengan itu.”Perusahaan juga memperkenalkan alat-alat seperti Reddit Pro Tren untuk Pengiklan.

Namun, potensi penyalahgunaan AI tetap menjadi perhatian yang signifikan, seperti yang diakui oleh Huffman dan diamplifikasi oleh insiden UZH. Tantangannya terletak pada memanfaatkan manfaat AI sambil melindungi keaslian platform. Para pemimpin industri seperti Sam Altman telah memperingatkan bahwa AI dapat menjadi”mampu melakukan persuasi manusia super sebelum manusia super di bidang intelijen umum”, meningkatkan alarm etika di seluruh sektor teknologi.

Langkah Reddit menuju verifikasi, sementara anonimitas yang menjanjikan, mencerminkan tindakan penyeimbang yang kompleks ini dalam lanskap digital yang berevolusi. Huffman juga berusaha untuk memadamkan ketakutan pengguna dengan mengkonfirmasi antarmuka klasik lama. Antarmuka tidak ditutup, dengan mengatakan”hanya bercanda. Saya tidak tahu mengapa saya mengatakan hal-hal seperti ini. Kami akan mencari cara untuk mengusahakannya dan tetap online selama orang-orang tidak menggunakannya,”meskipun ada banyak hal di tempat yang lebih besar dari pada hari Senin yang diterbitkan pada hari Senin di mana ia dinyatakan:”Old-000, itu adalah bagian-bagiannya adalah bagian dari postingan yang lebih besar di mana ia dinyatakan di mana ia menyatakan:”Old. Tidak mungkin untuk berkembang, dan itu adalah AF yang jelek. Huffman’s post suggests relying on third-party services, potentially similar to identity platforms like Persona or Stripe Identity mentioned by dataconomy , yang seringkali memerlukan ID yang dikeluarkan pemerintah. Reddit sudah menggunakan kepribadian untuk verifikasi kontributor . Informasi yang dibagikan secara anonim untuk dihubungkan kembali ke identitas nyata jika diminta oleh pihak berwenang.

Reddit bersikeras itu akan tetap”sangat melindungi informasi pribadi Anda, dan akan terus mendorong balik terhadap tuntutan yang berlebihan atau tidak masuk akal dari otoritas publik atau swasta,”kata Huffman, merujuk pada perusahaan Laporan transparansi . Platform ini bertujuan untuk menggunakan AI secara konstruktif untuk moderasi dan fitur seperti jawaban reddit, sambil menggunakan langkah-langkah verifikasi baru untuk menangkis manipulasi yang digerakkan AI yang mengancam identitas intinya sebagai ruang untuk pertukaran manusia yang otentik.