arXiv godet dokumentet e krijuara nga AI, që kërkojnë rishikim nga kolegët për paraqitjet e CS

Përballë një përmbytjeje përmbajtjesh me cilësi të ulët, të krijuar nga AI, serveri akademik i paraprintimit arXiv po shtrëngon rregullat e tij të paraqitjes për punimet e shkencave kompjuterike.

Në një njoftim më 31 tetor, kategoria e Computer Science nuk do të rishikojë më artikujt e saj të kategorisë Computer Science (CS) nuk do të pranojë më artikuj të kategorisë Computer Science ata kanë kaluar tashmë rishikimin e kolegëve në një revistë ose konferencë të njohur.

Lëvizja është krijuar për të reduktuar barrën e moderatorëve vullnetarë dhe përballet drejtpërdrejt me një vërshim të parashtresave që arXiv thotë se janë”të shpejta dhe të lehta për t’u shkruar”me AI gjeneruese, por shpesh u mungojnë substanca.

Një përmbytje e’Pjerrësive’të krijuara nga AI

Në një përpjekje për të mbrojtur cilësinë e kërkimit, arXiv po përballet drejtpërdrejt me ndikimin e modeleve të mëdha gjuhësore në botimin akademik. Platforma është përmbytur me aplikime, veçanërisht në seksionin e saj të shkencave kompjuterike me lëvizje të shpejtë.

Sipas deklaratës së saj zyrtare, faqja tani merr”qindra artikuj rishikimi çdo muaj”. Vëllimi i tij i madh është bërë i pamenaxhueshëm për sistemin e verifikimit të platformës.

Shumë prej këtyre paraqitjeve nuk arrijnë të përmbushin standardet bazë shkencore. Moderatorët e arXiv zbuluan se”shumica e artikujve rishikues që marrim janë pak më shumë se bibliografi të shënuara, pa diskutime thelbësore për çështje të hapura kërkimore.”

Punime të tilla kontribuojnë në zhurmën akademike, duke humbur kohën e studiuesve që kërkojnë njohuri të reja. Një lehtësi e tillë e prodhimit ka çuar në një tendosje të konsiderueshme për ekspertët vullnetarë që verifikojnë letrat.

Siç shpjegoi arXiv,”Inteligjenca artificiale gjeneruese/modele të mëdha gjuhësore i janë shtuar kësaj përmbytjeje duke bërë letra—veçanërisht letra që nuk prezantojnë rezultate të reja kërkimore—të shkruara shpejt dhe lehtë.”vlera e platformës.

Mjetet e sofistikuara që mundësojnë këtë përmbytje janë gjithashtu në rritje në numër dhe aftësi. Punimet e fundit, si ai që përshkruan një asistent kërkimor me shumë agjentë të AI, demonstrojnë teknologjinë e aftë për të automatizuar të gjithë procesin e shkrimit akademik nga ideimi deri te hartimi.

Kjo teknologji e bën të parëndësishme krijimin e rishikimeve të literaturës me tinguj të besueshëm, por në fund të fundit të zbrazët, duke përkeqësuar problemin që arXiv tani po përpiqet të zgjidhë. Kërkimi i rishikimit paraprak nga kolegët vepron si një filtër vendimtar, duke ua transferuar kontrollin fillestar të cilësisë në revista dhe konferenca të themeluara.

Një sistem nën presion

Ndërsa ndryshimi i politikës është i ri, problemi themelor nuk është. procesi akademik i rishikimit nga kolegët ka luftuar për vite me rradhë nën një kulturë”publiko ose zhduku”që nxit sasinë mbi cilësinë.

Ekspertë si ky i fundit kanë rishikuar universitetin e Satoshi Pharmaceutical në arkat e Universitetit të Satoshi Tanaka. Akademia”është në krizë”.

Kriza e ndërlikon grupin e kufizuar të recensuesve vullnetarë, të cilët janë të mbingarkuar nga numri i paraqitjeve. Kjo lodhje krijon një cenueshmëri që mjetet e AI, si për mirë ashtu edhe për keq, kanë filluar ta shfrytëzojnë.

arXiv ka qenë në qendër të debateve mbi AI dhe integritetin akademik më parë. Vitin e kaluar, studiuesit u gjetën madje duke futur komanda të fshehura në letrat e tyre për të manipuluar sistemet e rishikimit të fuqizuar nga AI, një praktikë e njohur si injeksion i shpejtë.

Duke fshehur udhëzimet në tekst të bardhë ose fontet mikroskopike, autorët u përpoqën të mashtronin sistemet e automatizuara për të dhënë reagime pozitive. Ai incident theksoi se sa lehtësisht mund të luanin sistemet e automatizuara, duke minuar të gjithë procesin e rishikimit.

Numanca në ndryshimin e fundit të arXiv ishte madje një burim konfuzioni, me disa media që fillimisht raportuan keq për shtrirjen e rregullit të ri.

Jo një politikë e re, por një zbatim i panevojshëm parashtresat, zyrtarët e arXiv sqaruan se ndryshimi është më shumë një veprim detyrues sesa një politikë e re.

Artikujt e rishikimit dhe letrat e pozicioneve nuk ishin kurrë zyrtarisht të pranuara lloje përmbajtjesh, por u lejuan historikisht sipas gjykimit të moderatorit, kur ato ishin me cilësi të lartë dhe interes studimor.

Një shpërthim i kohëve të fundit në vëllim, i nxitur thjesht nga kjo qasje e padiskutueshme, ka bërë që kjo qasje e papërshtatshme. Mbrojtja e kohës së këtyre moderatorëve vullnetarë-themeli i sistemit të paraprintimit-është thelbësor.

Udhëzimet e platformës arXiv thonë se autorët njerëzorë janë plotësisht përgjegjës për çdo përmbajtje të prodhuar nga mjetet e AI dhe ndalojnë në mënyrë eksplicite renditjen e një AI si një bashkëautor.

Përshtatja e kësaj kategorie të re të moderimit është një parim i ripërshtatjes së kësaj kategorie të moderimit për praktikën. Vërtetimi i udhëhequr nga njeriu mbetet parësor. Botuesit në të gjithë industrinë po përballen me këtë, duke krijuar politika të fragmentuara.

Ndërsa disa lejojnë përdorimin e kufizuar të AI, e kanë ndaluar këtë gjë

të tjerët si të tjerët. teknologjia do të gjenerojë përfundime të pasakta, të paplota ose të njëanshme.”

Duke parë përpara, platforma ka treguar se disiplina të tjera mund të shohin ndryshime të ngjashme. Në njoftimin e tij, arXiv vuri në dukje,”Nëse kategoritë e tjera shohin një rritje të ngjashme në artikujt e rishikimit të shkruar nga LLM dhe letrat e pozicioneve, ata mund të zgjedhin të ndryshojnë praktikat e tyre të moderimit në një mënyrë të ngjashme…”

Një veprim i tillë sugjeron një ndryshim të mundshëm në të gjithë platformën nëse vala e përmbajtjes së krijuar nga AI vazhdon të përhapet. Ai e pozicionon lëvizjen e arXiv jo si një rregullim të izoluar, por si një pengesë potenciale për mënyrën se si i gjithë komuniteti shkencor do të detyrohet të përshtatet me sfidat dhe tundimet e AI gjeneruese.