Η Reddit προετοιμάζει μια σημαντική αναθεώρηση των διαδικασιών επαλήθευσης χρήστη, μια κίνηση που προωθείται από ένα ηθικά αμφίβολο πείραμα AI Bot που πλημμύρισε ένα από τα φόρουμ του και τις αυξημένες ανησυχίες για την αυθεντικότητα της πλατφόρμας. href=”https://www.reddit.com/user/spez/comments/1kfciml/reddits_next_chapter_smarter_esier_still_human/”target=”_ blank”> blog post , CEO Steve Huffman Περισσότερες πληροφορίες.””Συγκεκριμένα, θα πρέπει να γνωρίζουμε αν είστε άνθρωπος και σε ορισμένες τοποθεσίες, αν είστε ενήλικας.”
Αναγνωρίζοντας την ανάγκη αυτών των ελέγχων για την καταπολέμηση του χειρισμού του AI και την ικανοποίηση των αυξανόμενων ρυθμιστικών απαιτήσεων για την επαλήθευση της ηλικίας, ο Huffman προσπάθησε να διαβεβαιώσει τους χρήστες για την βασική αξία της πλατφόρμας της ανώνυμης ανώνυμης, τον Huffman, Και εξηγώντας”ο τρόπος που θα το κάνουμε αυτό είναι να συνεργαστούμε με διάφορες υπηρεσίες τρίτων που μπορούν να μας δώσουν τις βασικές πληροφορίες και τίποτα άλλο.”Οι ερευνητές της Ζυρίχης, οι οποίοι αναπτύσσονταν εξελιγμένα ai bots στο R/Changemyview subreddit μεταξύ τέλους του 2024 και αρχές του 2025. και τον πολιτικό προσανατολισμό), όπως συνάγεται από την ιστορία των αποστολών τους χρησιμοποιώντας ένα άλλο LLM. Και ο ίδιος ο Reddit, με τον επικεφαλής νομικό υπεύθυνο της εταιρείας που καλεί το πείραμα”Αυτό που έκανε αυτή η ομάδα του Πανεπιστημίου της Ζυρίχης είναι βαθιά λάθος τόσο σε ηθικό όσο και σε νομικό επίπεδο. Παραβιάζει την ακαδημαϊκή έρευνα και τα πρότυπα των ανθρωπίνων δικαιωμάτων και απαγορεύεται από τη συμφωνία χρήστη και τους κανόνες της Reddit, εκτός από τους κανόνες των υποεπιλογών”και επιβεβαιώνοντας την Reddit, η Reddit επιδιώκει τις νομικές απαιτήσεις κατά των ερευνητών, href=”https://www.404media.co/reddit-issuing-formal-legal-demands-gainst-researchers-who-conducted-secret-ai-experment-on-users/”target=”_ blank”> 404 media Με τον Huffman να λέει ότι”η ανωνυμία είναι απαραίτητη για την Reddit”, ενώ παράλληλα εξασφαλίζει ότι η πλατφόρμα παραμένει ένας αξιόπιστος χώρος για την ανθρώπινη αλληλεπίδραση. Αυτή η ένταση ενισχύεται από εξωτερικές πιέσεις, συμπεριλαμβανομένων νέων νόμων στο Ηνωμένο Βασίλειο και αρκετές αμερικανικές πολιτείες που απαιτούν online ελέγχους ηλικίας. Μεταξύ Νοεμβρίου 2024 και Μαρτίου 2025, οι ερευνητές χρησιμοποίησαν κρυφά μοντέλα AI όπως το GPT-4O και το Claude 3.5 Sonnet για να δημοσιεύσουν πάνω από 1.700 σχόλια στο φόρουμ R/ChangemyView. Σύμφωνα με το draft paper που συνάγεται από το ιστορικό αποστολής τους χρησιμοποιώντας ένα άλλο LLM.”Οι bots υιοθέτησαν ακόμη και ψευδείς ταυτότητες, συμπεριλαμβανομένης της θέσης ως επιζώντων κατάχρησης. Οι γνώσεις αντισταθμίζουν τους κινδύνους”αποδίδει σημαντικές γνώσεις και οι κίνδυνοι (π.χ. τραύμα κ.λπ.) είναι ελάχιστες.-Μια λογική που απορρίφθηκε έντονα από τους συντονιστές, με εξωτερικούς εμπειρογνώμονες δεοντολογίας όπως ο Dr. Casey Fiesler που καλεί την πειραματική”μία από τις χειρότερες παραβιάσεις της ερευνητικής δεοντολογίας που έχω δει ποτέ”. Control
Το προγραμματισμένο σύστημα επαλήθευσης αντιπροσωπεύει ένα άλλο βήμα στην ευρύτερη τάση της Reddit για την κεντρική διακυβέρνηση της πλατφόρμας και την ενσωμάτωση του AI. Αυτό ακολουθεί τις προηγούμενες κινήσεις, όπως οι έλεγχοι σύσφιξης του συντονιστή στις ρυθμίσεις απορρήτου των υποκαταστάσεων μετά τις διαμαρτυρίες API του 2023 και την εκτόξευση εργαλείων επιβολής του κανόνα που λειτουργούν νωρίτερα αυτό το έτος. Η Reddit πλαισίωσε αυτές τις αλλαγές ως βελτίωση της εμπειρίας των χρηστών, λέγοντας ότι”διευκολύνουν όλους να συμμετάσχουν στο Reddit”και βοηθώντας τους συντονιστές. Ωστόσο, αυτές οι αλλαγές μειώνουν επίσης την αυτονομία των εθελοντών συντονιστών.
Οι μετατοπίσεις της πλατφόρμας συμβαίνουν σε ένα πλαίσιο της Reddit που επιτυγχάνει την κερδοφορία για πρώτη φορά στα τέλη του 2024, που τροφοδοτείται σημαντικά από τη διαφήμιση και την προσοδοφόρα αφορά την αδειοδότηση δεδομένων με την Google και την OpenAI. Ο Διευθύνων Σύμβουλος Huffman έχει φωνάξει για την αξία των δεδομένων που παράγονται από τον άνθρωπο Reddit για την κατάρτιση μοντέλων AI, λέγοντας ότι”τα μοντέλα AI χρειάζονται ανθρώπινη γνώση και το περιεχόμενο του Reddit είναι γεμάτο από αυτό”, δικαιολογώντας παράλληλα την απόφαση της πλατφόρμας να περιορίσει την πρόσβαση σε εταιρείες που δεν πληρώνουν.”Δεν αφήνουμε το Big Tech να χρησιμοποιεί τα δεδομένα μας δωρεάν”, κατέστησε σαφές ο Huffman. Ο Huffman υπογράμμισε τη χρησιμότητα του AI σε χαρακτηριστικά μετριοπάθειας, ασφάλειας, μετάφρασης και τροφοδοσίας όπως το Reddit Answers, το εργαλείο αναζήτησης AI που ξεκίνησε στα τέλη του 2024 που σχεδιάστηκε για να καταστήσει την τεράστια βάση γνώσεων της πλατφόρμας πιο προσιτή. Ο Reddit ισχυρίστηκε ότι”τα μοντέλα AI χρειάζονται ανθρώπινη γνώση και το περιεχόμενο του Reddit είναι γεμάτο από αυτό”. Η εταιρεία εισήγαγε επίσης εργαλεία όπως το Reddit Pro Trends για τους διαφημιζόμενους. Η πρόκληση έγκειται στη μόχλευση των παροχών της ΑΙ, διασφαλίζοντας την αυθεντικότητα της πλατφόρμας. Οι ηγέτες της βιομηχανίας, όπως ο Sam Altman, προειδοποίησαν ότι η AI θα μπορούσε να γίνει”ικανός για υπεράνθρωπη πειθώ πολύ πριν να είναι υπεράνθρωπος στη γενική νοημοσύνη”, αυξάνοντας τους ηθικούς συναγερμούς σε ολόκληρο τον τομέα της τεχνολογίας. Ο Huffman προσπάθησε επίσης να εξαλείψει τους φόβους των χρηστών επιβεβαιώνοντας την κλασική old.reddit Interface δεν κλείνει, λέγοντας”απλά γελάω, δεν ξέρω γιατί λέω τέτοια πράγματα. Είναι αδύνατο να αναπτυχθεί και είναι άσχημο AF. huffman’s post Προτείνει την Reling in Services dataconomy , τα οποία συχνά απαιτούν κυβερνητικά αναγνωριστικά. Το Reddit χρησιμοποιεί ήδη persona για το Συνεισφέροντας την επαλήθευση . Οι ευαίσθητες, ανώνυμα κοινές πληροφορίες που θα συνδεθούν πίσω με τις πραγματικές ταυτότητες, εάν απαιτούνται από τις αρχές.
Η Reddit επιμένει ότι θα παραμείνει”εξαιρετικά προστατευτική από τα προσωπικά σας στοιχεία και θα συνεχίσει να προωθεί τις υπερβολικές ή παράλογες απαιτήσεις από δημόσιες ή ιδιωτικές αρχές”, δήλωσε ο Huffman, αναφερόμενος στην εταιρεία αναφορά διαφάνειας . Η πλατφόρμα στοχεύει στη χρήση του AI εποικοδομητικά για μετριοπάθεια και χαρακτηριστικά όπως οι απαντήσεις Reddit, ενώ παράλληλα αναπτύσσει νέα μέτρα επαλήθευσης για να απομακρυνθεί η χειραγώγηση που οδηγεί στο AI που απειλεί την βασική του ταυτότητα ως χώρο για αυθεντική ανθρώπινη ανταλλαγή.