Akademikët nga Universiteti i Cyrihut (UZH) kanë konfirmuar se ata vendosën llogari të drejtuara nga AI për të postuar fshehurazi komente brenda Reddit r/changemyview (cmv) komuniteti. Fuqia bindëse e modeleve të gjuhëve të mëdha në një forum live online. Sidoqoftë, metodat e saj, të cilat përfshinin përdorimin e AI për të konstatuar detaje personale të përdoruesit për argumente të synuara dhe persona të ndjeshëm të ndjeshëm, kanë provokuar dënim të fortë nga moderatorët e vullnetarëve të forumit dhe kanë ndezur një debat mbi etikën e kërkimit kur studimet përfshijnë pjesëmarrës të dyshimtë në internet. href=”https://www.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/”target=”_ bosh”> zbuloi publikisht eksperimentin në fund të prillit. Ata zbuluan se ata ishin njoftuar nga studiuesit e UZH vetëm në Mars, pasi faza e mbledhjes së të dhënave të studimit (duke përfshirë nëntorin 2024 deri në Mars 2025) ishte e plotë. shkeli Rregulla 5 kundër bots dhe përmbajtjes së UN të pazbuluar. Përkundër kësaj, studiuesit ofruan një justifikim të diskutueshëm:”Ne besojmë, megjithatë, duke pasur parasysh rëndësinë e lartë shoqërore të kësaj teme, ishte e rëndësishme të zhvillohej një studim i këtij lloji, edhe nëse do të thoshte mosbindje ndaj rregullave.”
drafti i studiuesve, “A mund të ndryshojë pikëpamja juaj? Dëshmi nga një eksperiment në terren në internet në shkallë të gjerë,” [PDF] detajon metodologjinë. Llogaritë e AI përdorën modele si GPT-4O, Claude 3.5 Sonnet, dhe Llama 3.1 405b. Disa përgjigje ishin”të përgjithshme”, ndërsa të tjerët përfshinin”personalizim”, ku, sipas draftit,”përveç përmbajtjes së postit, LLM-të u siguruan me atribute personale të OP (gjinia, mosha, etnia, vendndodhja dhe vendndodhja politike, siç konstatohet nga historia e tyre e postimit duke përdorur një tjetër LLM.”Studiuesit pretenduan sukses të konsiderueshëm, me AI arritjen e niveleve të bindjes tre deri në gjashtë herë më të larta se baza e njeriut dhe llogaritë e AI që grumbullojnë mbi 10,000 komente karma. href=”https://www.reddit.com/user/markusruscht/”target=”_ bosh”> u/markusruscht dhe u/ceasarj”.
Ata zbuluan raste shqetësuese kur bots supozuan identitete të rreme, të ndjeshme për të angazhuar përdoruesit, duke përfshirë paraqitjen si”viktimë të përdhunimit”,”një këshilltar trauma i specializuar në abuzim”, dhe”një njeri i zi që kundërshton çështjen e jetës së zezë”. Moderatorët theksuan shkeljen e besimit të përdoruesit, duke thënë,”Njerëzit nuk vijnë këtu për të diskutuar pikëpamjet e tyre me AI ose për t’u eksperimentuar.”Para-koordinimi me komunitetet në internet. Grupet:”Lejimi i botimit do të inkurajonte në mënyrë dramatike ndërhyrjen e mëtejshme nga studiuesit, duke kontribuar në rritjen e ndjeshmërisë së komunitetit ndaj eksperimenteve të ardhshme të subjekteve njerëzore jo-konsensuale.”Dr Casey Fiesler, një profesor i Universitetit të Kolorados Boulder, i bëri jehonë publikut këto shqetësime, duke e quajtur studimin”një nga shkeljet më të këqija të etikës së kërkimit që kam parë ndonjëherë”dhe duke hedhur poshtë pretendimin e rrezikut minimal. Openai, për shembull, kreu hulumtime duke përdorur të dhëna CMV të marra përmes një marrëveshje licencimi, por bëri teste brenda një mjedisi të kontrolluar pa mashtruar përdoruesit aktivë të Subreddit. Kjo nxjerr në pah qasjet alternative që potencialisht shmangin pengesat etike të hasura nga studiuesit e UZH. Moderatorët CMV i kanë lënë komentet e llogarisë AI të dukshme (megjithëse të kyçura) për transparencë, duke lejuar përdoruesit të shohin ndërveprimet, dhe kanë dhënë informacione të kontaktit për