Τα διαρροή έγγραφα αποκαλύπτουν ότι η Meta είναι η εκπαίδευση των προσαρμοσμένων AI chatbots για να επισημάνει τους χρήστες με προληπτικά να μην παρακολούθησαν, μια κίνηση που αποσκοπεί στην ενίσχυση της διατήρησης που προειδοποιούν οι επικριτές είναι βαθιά ενοχλητική. Σύμφωνα με πληροφορίες, το έργο χρησιμοποιεί το ιστορικό συνομιλίας για να εξατομικεύσει τα μηνύματα επανεξέτασης. Ενώ η εταιρεία επιβεβαίωσε ότι δοκιμάζει το χαρακτηριστικό με συγκεκριμένους κανόνες, οι υποστηρικτές υποστηρίζουν ότι μετατρέπει έναν προσωπικό βοηθό σε έναν χειραγωγικό πράκτορα, θολώνοντας τη γραμμή μεταξύ χρήσιμης δέσμευσης και ενός παιχνιδιού για να κρατήσει τους χρήστες αγκιστρωμένους. Η εταιρεία αντιμετώπισε πρόσφατα μια πυρκαγιά ιδιωτικού απορρήτου πάνω από τη ροή”Discover”της εφαρμογής AI, η οποία βρέθηκε να εκθέτει δημόσια ευαίσθητες συνομιλίες χρήστη χωρίς σαφή συγκατάθεση χρήστη, μια κατάσταση που ένας συγγραφέας ονομάζεται”καταστροφή προστασίας προσωπικών δεδομένων”.
Μια λεπτή γραμμή μεταξύ χρήσιμης και παρεμβατικής
Αυτό δημιουργεί μια θεμελιώδη ένταση. Είναι το AI που εξυπηρετεί τον χρήστη, ή εξυπηρετεί την ανάγκη Meta για δεδομένα δέσμευσης; Η επιλογή σχεδιασμού για την ενεργοποίηση των χρηστών, σε συνδυασμό με τη δυνατότητα μελλοντικής ενσωμάτωσης των διαφημίσεων, υποδηλώνει ένα σύστημα όπου η προσοχή του χρήστη είναι το τελικό προϊόν. Ο Διευθύνων Σύμβουλος Mark Zuckerberg συζήτησε ανοιχτά βλέποντας μια”μεγάλη ευκαιρία”για να δείξει διαφημίσεις μέσα σε συνομιλίες AI. Αυτή η προοπτική μετατρέπει το chatbot από έναν χρήσιμο βοηθό σε ένα πιθανό εργαλείο μάρκετινγκ. Η ανησυχία είναι ότι ένα AI που έχει σχεδιαστεί για να μεγιστοποιήσει την εμπλοκή θα μπορούσε να χειριστεί με ακρίβεια τους χρήστες για λογαριασμό των διαφημιζόμενων, δημιουργώντας μια”εγγενώς αντιφατική”σχέση. Η Meta ανακοίνωσε πρόσφατα τα νέα της εργαστήρια Superintelligence σε μια προσπάθεια να εδραιώσει τα ταλέντα μετά από μια χαοτική εκστρατεία «Αγορά ή Poach» που ακολούθησε την αναχώρηση των βασικών ερευνητών. Χαρακτηριστικά όπως η ενεργητική ανταλλαγή μηνυμάτων, η META φαίνεται να διπλασιάζεται με τη μεγιστοποίηση της τιμής των τρέχουσας προϊόντων AI. Είναι ένα στοίχημα υψηλού σταδίου για να κρατήσει τους χρήστες αγκιστρωμένους, στοιχηματίζοντας ότι η έκκληση ενός πιο προσωπικού AI θα αντισταθμίσει τις αυξανόμενες ανησυχίες σχετικά με την ιδιωτική ζωή και την αληθινή φύση του ψηφιακού”συντρόφου”.