Ο αλγόριθμος της Meta για τον εντοπισμό επιβλαβούς περιεχομένου επισήμανε εσφαλμένα τη δήλωση αποστολής του,”φέρνοντας τον κόσμο πιο κοντά”, δείχνοντας μια εξαιρετικά υψηλή συσχέτιση μεταξύ του”Meta”και της έννοιας της”Τρομοκρατικής Οργάνωσης”.
Το Το περιστατικό οδήγησε στην ταχεία απόλυση του Σεμπάστιαν Κάρλος, ενός νεοπροσληφθέντος υπαλλήλου που είχε επιφορτιστεί να επισκευάσει τον αλγόριθμο, αυξάνοντας τα ηθικά και τεχνικές ερωτήσεις σχετικά με τον ρόλο της τεχνητής νοημοσύνης στη μετριοπάθεια περιεχομένου, όπως αναφέρει σε μια ανάρτηση ιστολογίου.
Μια τολμηρή αναθεώρηση της εποπτείας περιεχομένου
Η διαμάχη ξεκίνησε όταν ο προγραμματιστής Sebastian Carlos εντάχθηκε στην ομάδα”Harmful Content Detection”της Meta την πρώτη του εβδομάδα ως νέος υπάλληλος. Έχοντας ως αποστολή τη βελτίωση της αποτελεσματικότητας και της ακρίβειας των συστημάτων ελέγχου περιεχομένου της Meta, εντόπισαν σημαντικές ελλείψεις στον υπάρχοντα αλγόριθμο.
Ο Κάρλος πρότεινε μια ριζική επανεγγραφή χρησιμοποιώντας Prolog, μια γλώσσα προγραμματισμού γνωστή για την ικανότητά της να χειρίζεται συμβολικά συλλογιστική και πολύπλοκες σχέσεις. Η δηλωτική φύση της Prolog την έκανε ιδιαίτερα κατάλληλη για την ανάλυση των διακριτικών ορισμών του επιβλαβούς περιεχομένου.
Για την ενίσχυση της κατανόησης των συμφραζομένων του αλγορίθμου, η αναθεώρηση ενσωμάτωσε διάφορα σύνολα δεδομένων, όπως Wikipedia, θρησκευτικά κείμενα και εγκυκλοπαίδειες. Με αυτήν την πολύπλευρη προσέγγιση ο Carlos στόχευε να διασφαλίσει την πολιτιστική και συμφραζόμενη ενσωμάτωση. Ωστόσο, αυτή η προσέγγιση απαιτούσε επίσης εκτεταμένους υπολογιστικούς πόρους.
Σχετικά: Η κίνηση του Ζούκερμπεργκ για να σταματήσει ο έλεγχος δεδομένων επαινείται από τον Τραμπ και τον Μασκ, οι κριτικοί σοκαρίστηκαν
Ο Κάρλος εξηγεί πώς η μέτρηση εσωτερικού κόστους της Meta, που με χιούμορ αναφέρεται ως Τα «Έτη της Γουατεμάλας» (ισοδύναμο με το ΑΕΠ της Γουατεμάλας), χρησιμοποιήθηκαν για να δικαιολογηθούν τα υπολογιστικά έξοδα.
Ο ανανεωμένος αλγόριθμος σχεδιάστηκε για να επεξεργάζεται εκατομμύρια αναρτήσεις καθημερινά, αναλύοντας το περιεχόμενό τους σε σχέση με μια εξαιρετικά λεπτομερή ηθική τοπολογία χωρίς προκατάληψη και λειτουργούσε αυστηρά σύμφωνα με τους κανόνες που είχε προγραμματιστεί να ακολουθεί.
Όταν το AI γυρίζει. Inward
Κατά τη διάρκεια της πρώτης σημαντικής δοκιμαστικής λειτουργίας, ο ενημερωμένος αλγόριθμος επισήμανε τη δήλωση αποστολής του Meta ως επιβλαβές περιεχόμενο
Ο εντοπισμός σφαλμάτων δεν αποκάλυψε σφάλματα στη λογική εντόπισε υψηλή συσχέτιση μεταξύ του όρου «Meta» και των φράσεων που σχετίζονται με «τρομοκρατία» και «εταιρική υπέρβαση». Το απροσδόκητο αποτέλεσμα τόνισε τις προκλήσεις της εκπαίδευσης συστημάτων AI για την πλοήγηση σε διφορούμενες έννοιες όπως η ηθική και η βλάβη.
Όπως γράφει ο Carlos, η επισημασμένη δήλωση προκάλεσε άμεσες εσωτερικές συζητήσεις. Μερικοί μηχανικοί επαίνεσαν την αυστηρότητα του αλγορίθμου, ενώ άλλοι ανησυχούσαν για τις πιθανές συνέπειες των δημοσίων σχέσεων. Ένας ανώτερος μάνατζερ φέρεται να είπε στον Carlos: «Κοίτα, αυτό είναι… εντυπωσιακό, αλλά δεν μπορούμε να χτυπήσουμε τα OKR μας έτσι.» τονίζοντας την ένταση και το αυξανόμενο χάσμα μεταξύ τεχνικής ακρίβειας και οργανωτικών προτεραιοτήτων.
The Fallout: Ethics and NDAs
Το περιστατικό κλιμακώθηκε όταν ο Carlos παρουσίασε τα ευρήματά του κατά τη διάρκεια μιας συνάντησης της ομάδας, παρά το γεγονός ότι έδειξε τη λογική πίσω από το Με τις αποφάσεις του αλγόριθμου, η εργασία του υπαλλήλου αντιμετώπισε αντίσταση από ανώτερα στελέχη.
Ένα διπλό NDA, επίσης γνωστό ως διμερές ή αμοιβαίο Το NDA, είναι μια νομικά δεσμευτική συμφωνία όπου και τα δύο εμπλεκόμενα μέρη αποκαλύπτουν εμπιστευτικές πληροφορίες μεταξύ τους και συμφωνούν να προστατεύσουν αυτές τις πληροφορίες από περαιτέρω αποκάλυψη.
Ο Carlos γράφει ότι ο δικηγόρος του προτείνει ότι τέτοιες συμφωνίες μπορεί να ακυρώσουν η μία την άλλη, επιτρέποντας στον υπάλληλο να συζητήσει δημόσια την εμπειρία του. Αναλογιζόμενος την απόλυσή του, γράφει: «Λαμβάνοντας υπόψη ότι με απέλυσαν επειδή είπα κάποιες αλήθειες, νομίζω ότι οφείλω στο Διαδίκτυο όλη την ιστορία.»
Ο ρόλος της τεχνητής νοημοσύνης στη μετριοπάθεια
Τα εργαλεία εποπτείας περιεχομένου της Meta είναι αναπόσπαστα για τη διαχείριση του τεράστιου όγκου περιεχομένου που δημιουργείται από τους χρήστες στις πλατφόρμες της αναγκαιότητα και πηγή διαμάχης, με τους επικριτές να επισημαίνουν περιπτώσεις υπέρβασης ή ανεπαρκούς δράσης ενάντια σε επιβλαβές υλικό.
Το περιστατικό προσθέτει στον έλεγχο, εγείροντας ερωτήματα σχετικά με τη διαφάνεια και τη λογοδοσία στη λήψη αποφάσεων AI από την άλλη πλευρά μπορεί να το ερμηνεύσει ως ένδειξη αποτελεσματικότητας των αλγορίθμων
Ίσως οι πρακτικές του Meta και Οι ιδεολογικές προκαταλήψεις μοιάζουν πραγματικά με εκείνες μιας τρομοκρατικής οργάνωσης και ο αλγόριθμος ήταν ενδεικτικός. Ο Carlos γράφει επίσης ότι τα γυαλιά επαυξημένης πραγματικότητας του Meta είχαν χρησιμοποιηθεί κατά τη διάρκεια της συνέντευξης του όταν ένας εμπλεκόμενος προγραμματιστής βασίστηκε σε αυτά για να λύσει μια πρόκληση κωδικοποίησης, διορθώνοντας και βελτιώνοντας μια προτεινόμενη λύση Ο Κάρλος. Στη συνέχεια αντιμετώπισε τον συνεντευκτή με τα ευρήματά του και μάλιστα χρησιμοποίησε αυτό το περιστατικό για να διαπραγματευτεί υψηλότερο μισθό όταν ξεκίνησε στο Meta, εκβιάζοντάς τον στην πραγματικότητα.
Από αυτή την παράπλευρη ιστορία, η εμπειρία του Carlos θέτει στο προσκήνιο τις ακούσιες συνέπειες. των συστημάτων τεχνητής νοημοσύνης και υπογραμμίζει τις δυσκολίες των αλγορίθμων προγραμματισμού για την κατανόηση και την εφαρμογή διαφοροποιημένων ανθρώπινων εννοιών όπως η βλάβη, η ηθική και η ασφάλεια.
Η επισημασμένη δήλωση αποστολής μπορεί να ήταν μια ανωμαλία ή μια ακριβής αντιστοίχιση. Όποια και αν είναι η περίπτωση, η Meta σίγουρα δεν θα ασχοληθεί με αυτό.
