Ο μεγάλος ακαδημαϊκός εκδότης Springer Nature διερευνά ένα νέο εγχειρίδιο εκμάθησης μηχανών μετά από μια ομάδα watchdog που βρήκε ότι είναι γεμάτο με κατασκευασμένες αναφορές-ένα ενδεικτικό σημάδι του περιεχομένου που δημιουργήθηκε από το AI. Το βιβλίο,”Mastering Machine Learning”, δημοσιεύθηκε τον Απρίλιο του 2025.
Τα ελαττώματα εκτέθηκαν από το
Σε ένα δείγμα από το βιβλίο, τα δύο τρίτα των 46 αναφορών ήταν είτε ανύπαρκτα είτε περιείχαν σημαντικά σφάλματα. Οι ερευνητές όπως ο Yehuda Dar και ο Aaron Courville, οι οποίοι αναφέρθηκαν στο κείμενο, επιβεβαίωσαν ότι τα έργα που τους αποδόθηκαν ήταν ψεύτικα ή παραπλανήθηκαν. Κατά ειρωνικό τρόπο, η εταιρεία του υποσχέσεις Για να βοηθήσουν τους οργανισμούς να οικοδομήσουν τα συστήματα ανίχνευσης απάτης που δεν είναι ευρέως ακριβή, υπεύθυνα και προσαρμόζουν τις απειλές του πραγματικού κόσμου. παραμένει μια πρόκληση, καθώς ακόμη και το ανθρώπινο γραπτό κείμενο μπορεί να εμφανιστεί «όπως το AI». href=”https://link.springer.com/book/10.1007/978-981-97-9914-5″Target=”_ blank”> book Δεν περιέχει τέτοια δήλωση. href=”https://www.springernature.com/gp/researchers/the-source/blog/blogposts-research-integrity/research-integrity-scholarly-books/27780154″target=”_ bland”Η εγκυρότητα.
Ένα πρότυπο «αισιόδοξου λανθασμένου» ai
Αυτό το περιστατικό δεν είναι απομονωμένο, αλλά αντανακλά μια επίμονη πρόκληση σε όλη τη βιομηχανία, γνωστή ως ψευδαισθήσεις AI. Ζητήστε συγνώμη στο δικαστήριο. συγγνώμη. Θέματα. href=”https://asia.nikkei.com/business/technology/artificial-intelligence/positive-review-only-rearchers-hide-aiprpts-in-papers”target=”_ blank”> Οι εντολές, γνωστές ως άμεσες επιθέσεις έγχυσης, στα χαρτιά τους για να εξαπατήσουν τα συστήματα αναθεώρησης AI. Η αναθεώρηση του AI, αποτελεί την «εξάρτηση από ομοτίμους.» «Αυτό αντιπροσωπεύει μια άμεση επίθεση στη διαδικασία αναθεώρησης από ομοτίμους. AI Χρήση Δημιουργήστε μια γκρίζα περιοχή που είναι ώριμη για εκμετάλλευση.
Σε απάντηση, βασικά όργανα της βιομηχανίας αρχίζουν να ενεργούν. Αναθεώρηση , υπογραμμίζοντας την ανάγκη για διαφάνεια και ισχυρή ανθρώπινη επίβλεψη. Οι ειδικοί προειδοποιούν ότι οι νέες μέθοδοι εξαπάτησης θα συνεχίσουν να εμφανίζονται.