ahli akademik dari University of Zurich (UZH) telah mengesahkan bahawa mereka mengerahkan akaun yang didorong oleh AI untuk secara rahsia menyiarkan komen dalam reddit’s Mereka mendedahkan mereka diberitahu oleh penyelidik UZH hanya pada bulan Mac, selepas fasa pengumpulan data kajian (merangkumi November 2024 hingga Mac 2025) telah selesai. Tindakan melanggar subreddit Peraturan 5 terhadap bot dan kandungan AI yang tidak didedahkan. Walaupun begitu, para penyelidik menawarkan alasan yang bertentangan:”Kami percaya, bagaimanapun, yang memandangkan kepentingan masyarakat yang tinggi dari topik ini, adalah penting untuk menjalankan kajian seperti ini, walaupun ia bermaksud tidak mematuhi peraturan.”
Kertas draf penyelidik, Akaun AI menggunakan model seperti GPT-4O, Claude 3.5 Sonnet, dan Llama 3.1 405b. Sesetengah balasan adalah”generik,”sementara yang lain melibatkan”pemperibadian,”di mana, menurut draf itu,”sebagai tambahan kepada kandungan pos, LLM disediakan dengan sifat-sifat peribadi OP (jantina, umur, etnik, lokasi, dan orientasi politik), seperti yang digunakan oleh orang lain.”Para penyelidik mendakwa kejayaan yang signifikan, dengan AI mencapai kadar pujukan tiga hingga enam kali lebih tinggi daripada garis dasar manusia dan akaun AI yang mengumpulkan lebih dari 10,000 komen karma. href=”https://www.reddit.com/user/markusruscht/”target=”_ blank”> u/markusruscht dan Mereka menemui contoh yang mengganggu di mana bot mengandaikan identiti palsu dan sensitif untuk melibatkan pengguna, termasuk menyamar sebagai”mangsa rogol,””seorang kaunselor trauma yang mengkhususkan diri dalam penyalahgunaan,”dan”seorang lelaki kulit hitam yang menentang masalah kehidupan hitam.”Para moderator menekankan pelanggaran amanah pengguna, menyatakan,”Orang tidak datang ke sini untuk membincangkan pandangan mereka dengan AI atau untuk diuji.”
Pra-koordinasi dengan komuniti dalam talian. Sets:”Membenarkan penerbitan secara dramatik menggalakkan pencerobohan lebih lanjut oleh penyelidik, menyumbang kepada peningkatan kerentanan masyarakat terhadap percubaan subjek manusia yang tidak konsisten masa depan.”Dr. Casey Fiesler, seorang profesor Universiti Colorado Boulder, secara terbuka menggema kebimbangan ini, memanggil kajian”salah satu pelanggaran yang paling buruk terhadap etika penyelidikan yang pernah saya lihat”dan menafikan tuntutan minimum. Openai, sebagai contoh, menjalankan penyelidikan menggunakan data CMV yang diperoleh melalui perjanjian pelesenan, tetapi melakukan ujian dalam persekitaran terkawal tanpa menipu pengguna subreddit aktif. Ini menonjolkan pendekatan alternatif yang berpotensi mengelakkan perangkap etika yang dihadapi oleh penyelidik UZH. Moderator CMV telah meninggalkan komen akaun AI yang dapat dilihat (walaupun terkunci) untuk ketelusan, membolehkan pengguna melihat interaksi, dan memberikan maklumat hubungan untuk
