Το arXiv καταστρέφει τα έγγραφα που έχουν δημιουργηθεί από AI, που απαιτούν αξιολόγηση από ομοτίμους για υποβολές CS

Αντιμετωπίζοντας έναν κατακλυσμό περιεχομένου χαμηλής ποιότητας που δημιουργείται από τεχνητή νοημοσύνη, ο ακαδημαϊκός διακομιστής προεκτύπωσης arXiv αυστηροποιεί τους κανόνες υποβολής για εργασίες επιστήμης υπολογιστών.

Σε μια ανακοίνωση στις 31 Οκτωβρίου, το άρθρο χωρίς επιρροή Computer Science δεν θα αποδέχεται πλέον το άρθρο της για την κατηγορία Computer Science (CS) έχουν ήδη υποβληθεί σε αξιολόγηση από ομοτίμους σε αναγνωρισμένο περιοδικό ή συνέδριο.

Η κίνηση έχει σχεδιαστεί για να μειώσει το φόρτο των εθελοντών συντονιστών και αντιμετωπίζει άμεσα μια πλημμύρα υποβολών που ο arXiv λέει ότι είναι «γρήγορες και εύκολο να γραφτούν» με γενετική τεχνητή νοημοσύνη αλλά συχνά στερούνται ουσίας.

A Flood of AI-Generated”Slop”

Σε μια προσπάθεια να διαφυλαχθεί η ποιότητα της έρευνας, το arXiv αντιμετωπίζει άμεσα τον αντίκτυπο των μεγάλων γλωσσικών μοντέλων στην ακαδημαϊκή δημοσίευση. Η πλατφόρμα έχει κατακλυστεί από υποβολές, ιδιαίτερα στην ταχέως εξελισσόμενη ενότητα της επιστήμης των υπολογιστών.

Σύμφωνα με την επίσημη δήλωσή της, ο ιστότοπος λαμβάνει πλέον”εκατοντάδες άρθρα κριτικής κάθε μήνα”. Ο τεράστιος όγκος του έχει καταστεί μη διαχειρίσιμος για το σύστημα ελέγχου της πλατφόρμας.

Πολλές από αυτές τις υποβολές δεν πληρούν τα βασικά επιστημονικά πρότυπα. Οι συντονιστές του arXiv διαπίστωσαν ότι «η πλειονότητα των άρθρων κριτικής που λαμβάνουμε είναι κάτι περισσότερο από σχολιασμένες βιβλιογραφίες, χωρίς ουσιαστική συζήτηση ανοιχτών ερευνητικών θεμάτων».

Τέτοιες εργασίες συμβάλλουν στον ακαδημαϊκό θόρυβο, χάνοντας τον χρόνο των ερευνητών που αναζητούν νέες ιδέες. Αυτή η ευκολία παραγωγής οδήγησε σε σημαντική πίεση στους εθελοντές εμπειρογνώμονες που επιθεωρούν έγγραφα.

Όπως εξήγησε ο arXiv, «τα μοντέλα τεχνητής νοημοσύνης/μεγάλων γλωσσών έχουν προστεθεί σε αυτήν την πλημμύρα κάνοντας εργασίες —ειδικά έγγραφα που δεν εισάγουν νέα ερευνητικά αποτελέσματα— γρήγορα και εύκολα στη σύνταξη». Η αξία της πλατφόρμας.

Τα εξελιγμένα εργαλεία που επιτρέπουν αυτήν την πλημμύρα αυξάνονται επίσης σε αριθμό και ικανότητα. Πρόσφατες εργασίες, όπως αυτή που περιγράφει έναν βοηθό ερευνητή τεχνητής νοημοσύνης πολλαπλών πρακτόρων, καταδεικνύουν τεχνολογία ικανή να αυτοματοποιεί ολόκληρη τη διαδικασία γραφής της ακαδημαϊκής γραφής από τον ιδεασμό έως τη σύνταξη.

Αυτή η τεχνολογία καθιστά ασήμαντη τη δημιουργία εύλογων αλλά τελικά κούφιων βιβλιογραφικών ανασκοπήσεων, επιδεινώνοντας το πρόβλημα που προσπαθεί τώρα να λύσει το arXiv. Η απαίτηση προηγούμενης αξιολόγησης από ομοτίμους λειτουργεί ως κρίσιμο φίλτρο, αναθέτοντας τον αρχικό ποιοτικό έλεγχο σε καθιερωμένα περιοδικά και συνέδρια.

Ένα σύστημα υπό πίεση

Ενώ η αλλαγή πολιτικής είναι νέα, το βασικό πρόβλημα δεν είναι. Η διαδικασία ακαδημαϊκής αξιολόγησης από ομοτίμους αγωνίζεται εδώ και χρόνια κάτω από μια κουλτούρα”δημοσιεύστε ή αφανίστε”που δίνει κίνητρα στην ποσότητα έναντι της ποιότητας.

Εμπειρογνώμονες όπως ο Kyotoshi Pharmaceutical έχουν αξιολογήσει το Πανεπιστήμιο Peharmaceutical του Satoshi Pharmaceut. Ο ακαδημαϊκός κόσμος”βρίσκεται σε κρίση”.

Η κρίση επιβαρύνει την περιορισμένη ομάδα εθελοντών κριτικών, οι οποίοι κατακλύζονται από τον αριθμό των υποβολών. Αυτή η κούραση δημιουργεί μια ευπάθεια την οποία τα εργαλεία τεχνητής νοημοσύνης, τόσο για καλό όσο και για κακό, αρχίζουν να εκμεταλλεύονται.

Το arXiv ήταν στο παρελθόν στο επίκεντρο των συζητήσεων για την τεχνητή νοημοσύνη και την ακαδημαϊκή ακεραιότητα. Πέρυσι, οι ερευνητές βρέθηκαν ακόμη και να ενσωματώνουν κρυφές εντολές στα χαρτιά τους για να χειρίζονται συστήματα αναθεώρησης με τεχνητή νοημοσύνη, μια πρακτική γνωστή ως άμεση έγχυση.

Με την απόκρυψη οδηγιών σε λευκό κείμενο ή μικροσκοπικές γραμματοσειρές, οι συγγραφείς προσπάθησαν να εξαπατήσουν αυτοματοποιημένα συστήματα για να δώσουν θετικά σχόλια. Αυτό το περιστατικό υπογράμμισε πόσο εύκολα θα μπορούσαν να παιχτούν τα αυτοματοποιημένα συστήματα, υπονομεύοντας ολόκληρη τη διαδικασία αναθεώρησης.

Η απόχρωση στην πρόσφατη αλλαγή του arXiv προκάλεσε ακόμη και σύγχυση, με ορισμένα καταστήματα αρχικά να αναφέρουν εσφαλμένα το πεδίο εφαρμογής του νέου κανόνα.

Όχι μια νέα πολιτική, αλλά μια απαραίτητη εφαρμογή p> Οι αξιωματούχοι του arXiv διευκρίνισαν ότι η αλλαγή είναι περισσότερο μια ενέργεια επιβολής παρά μια νέα πολιτική.

Τα άρθρα κριτικών και τα έγγραφα θέσης δεν ήταν ποτέ επισήμως αποδεκτοί τύποι περιεχομένου, αλλά επιτρέπονταν ιστορικά κατά την κρίση του συντονιστή, όταν ήταν υψηλής ποιότητας και επιστημονικού ενδιαφέροντος.

Μια πρόσφατη έκρηξη στον όγκο, λόγω αυτής της προσέγγισης τεχνητής νοημοσύνης που δεν διακρίνεται. Η προστασία του χρόνου αυτών των εθελοντών συντονιστών-το θεμέλιο του συστήματος προεκτύπωσης-είναι απαραίτητη.

Οι οδηγίες της πλατφόρμας arXiv δηλώνουν ότι οι ανθρώπινοι δημιουργοί είναι πλήρως υπεύθυνοι για οποιοδήποτε περιεχόμενο που παράγεται από εργαλεία τεχνητής νοημοσύνης και απαγορεύουν ρητά την καταχώριση μιας τεχνητής νοημοσύνης ως συν-συγγραφέα.

Η υιοθέτηση αυτής της νέας κατηγορίας επέκτασης αποτελεί μια πρακτική επέκτασης αυτής της νέας κατηγορίας για την πρακτική εποπτείας. Η ανθρωποκεντρική επικύρωση παραμένει πρωταρχικής σημασίας. Οι εκδότες σε όλο τον κλάδο αντιμετωπίζουν αυτό το πρόβλημα, δημιουργώντας κατακερματισμένες πολιτικές.

Ενώ ορισμένοι επιτρέπουν περιορισμένη χρήση τεχνητής νοημοσύνης, το έχουν απαγορεύσει όλοι οι άλλοι όπως οι άλλοι

Η τεχνολογία θα δημιουργήσει λανθασμένα, ελλιπή ή μεροληπτικά συμπεράσματα.”

Κοιτάζοντας το μέλλον, η πλατφόρμα έχει δείξει ότι και άλλοι κλάδοι ενδέχεται να δουν παρόμοιες αλλαγές. Στην ανακοίνωσή του, το arXiv σημείωσε, «Εάν άλλες κατηγορίες δουν παρόμοια αύξηση σε άρθρα αναθεώρησης και έγγραφα θέσεων που έχουν γράψει LLM, μπορεί να επιλέξουν να αλλάξουν τις πρακτικές ελέγχου με παρόμοιο τρόπο…»

Μια τέτοια κίνηση υποδηλώνει μια πιθανή αλλαγή σε ολόκληρη την πλατφόρμα εάν το κύμα περιεχομένου που δημιουργείται από AI συνεχίσει να εξαπλώνεται. Τοποθετεί την κίνηση του arXiv όχι ως μεμονωμένη λύση, αλλά ως ένα πιθανό καμπάνα για το πώς ολόκληρη η επιστημονική κοινότητα θα αναγκαστεί να προσαρμοστεί στις προκλήσεις και τους πειρασμούς της γενετικής τεχνητής νοημοσύνης.