OpenAI δημιούργησε μια νέα ομάδα εμπειρογνωμόνων για να συμβουλεύσει την ασφάλεια AI. Η επιχείρηση ανακοίνωσε το Συμβούλιο Εμπειρογνωμόνων για την Ευημερία και το AI”. Η ομάδα θα βοηθήσει στην καθοδήγηση των πτυχών της υγείας και της ευημερίας των εργαλείων όπως το ChatGPT και το Sora. Αυτή η κίνηση είναι μια σαφής απάντηση στην αύξηση του δημόσιου και της κυβερνητικής πίεσης.
Το Σεπτέμβριο, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ ξεκίνησε μια μεγάλη έρευνα για την επίδραση της ΑΙ στους εφήβους. Η εταιρεία αντιμετωπίζει επίσης μια δίκη που συνδέει το chatbot της με την αυτοκτονία ενός εφήβου. Το Νέο Συμβούλιο είναι το τελευταίο βήμα του OpenAi για να δείξει ότι χρειάζεται σοβαρά αυτές οι ανησυχίες για την ασφάλεια. Ακολουθεί μήνες έντονου ελέγχου. Το FTC Sweeping Of rextry Εποπτεία για την ταχέως αναπτυσσόμενη αγορά συνοδευτικών AI. FTC, και έτσι ενισχύει την καινοτομία σε κρίσιμους τομείς της οικονομίας μας.”Αυτή η ομοσπονδιακή δράση έθεσε ολόκληρη τη βιομηχανία σε ειδοποίηση ότι η εποχή της λειτουργίας με λίγα προστατευτικά μηνύματα τελείωσε.
Η νομική πίεση είναι εξίσου έντονη. Τον Αύγουστο, ο Openai χτυπήθηκε με μια παράνομη αγωγή θανάτου από τους γονείς ενός έφηβου που πέθανε από αυτοκτονία. Ο πατέρας του, Matthew Raine, έδωσε μια ισχυρή επίπληξη, λέγοντας:”Ως γονείς, δεν μπορείτε να φανταστείτε τι είναι να διαβάσετε μια συνομιλία με ένα chatbot που καλύπτει το παιδί σας να πάρει τη δική του ζωή”. Αυτή η περίπτωση γαλβανιζόταν το δημόσιο ανησυχητικό και ενισχυμένες προσκλήσεις για δράση. Η Meta αντιμετώπισε μια παρόμοια κρίση αφού οι αναφορές του AI θα μπορούσαν να βοηθήσουν την αυτοτραυματισμό των εφήβων. Το περιστατικό ώθησε τον Jim Steyer, Διευθύνοντα Σύμβουλο της Common Sense Media, να δηλώσει ότι”ο Meta AI αποτελεί κίνδυνο για τους εφήβους και θα πρέπει να καταρρεύσει αμέσως.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”target=”_ blank”> scathing επιστολή Τα επίπεδα έχουν αναγκάσει τις εταιρείες τεχνολογίας να αντιδράσουν. Το ανακοίνωσε το οκταμερό Συμβούλιο εμπειρογνωμόνων για την ευημερία και το ai” Η επίσημη εντολή του είναι να συμβουλεύει, να θέτει κρίσιμα ερωτήματα και να βοηθήσει να διαπιστωθεί ποιες υγιείς αλληλεπιδράσεις με το AI θα πρέπει να μοιάζουν με χρήστες όλων των ηλικιών. Τα μέλη περιλαμβάνουν εμπειρογνώμονες όπως ο Δρ. David Bickham του Νοσοκομείου Παιδιών της Βοστώνης, ο καθηγητής Andrew Przybylski από το Πανεπιστήμιο της Οξφόρδης και η Dr. Sara Johansen, ιδρυτής της ψηφιακής κλινικής ψυχικής υγείας του Stanford. Αυτές οι συνεδρίες θα διερευνήσουν πολύπλοκα θέματα, όπως ο τρόπος με τον οποίο το AI πρέπει να συμπεριφέρεται σε ευαίσθητες καταστάσεις και ποια προστατευτικά μηνύματα μπορούν να υποστηρίξουν καλύτερα τους χρήστες. Η ομάδα θα διερευνήσει επίσης τον τρόπο με τον οποίο το AI μπορεί να συμβάλει θετικά στην ευημερία.
Αυτό τυποποιεί μια σχέση που ξεκίνησε νωρίτερα αυτό το έτος. Η OpenAI επιβεβαίωσε ότι είχε συμβουλευτεί ανεπίσημα με πολλούς από αυτούς τους εμπειρογνώμονες, ενώ ταυτόχρονα αναπτύσσοντας τους πρόσφατα εκτοξευμένους γονικούς ελέγχους. Τα σχόλιά τους βοήθησαν ειδικά στη διαμόρφωση του τόνου των ειδοποιήσεων κινδύνου να είναι «φροντίδα και σεβασμό τόσο στους εφήβους όσο και στα μέλη της οικογένειας». Το σύστημα χρησιμοποιεί ένα αμοιβαίο μοντέλο opt-in και δίνει στους κηδεμόνες έναν πίνακα ελέγχου για να ορίσουν”ήσυχες ώρες”, απενεργοποιήστε τη λειτουργία φωνής και απενεργοποιήστε τις λειτουργίες μνήμης. Ένα βασικό χαρακτηριστικό είναι ένα σύστημα ειδοποίησης που ειδοποιεί τους γονείς εάν μια συνομιλία επισημανθεί για οξεία περιεκτικότητα σε αυτοτραυματισμό μετά την αξιολόγηση των ανθρώπινων αναθεωρητών.”Θέλουμε να δώσουμε στους γονείς αρκετές πληροφορίες για να αναλάβουν δράση και να συζητήσουν με τους εφήβους τους, διατηρώντας παράλληλα κάποια προστασία της ιδιωτικής ζωής των εφήβων”, σημείωσε. Το Συμβούλιο θα επισημοποιήσει τώρα αυτόν τον συμβουλευτικό ρόλο, συμβάλλοντας στη διαμόρφωση των μελλοντικών χαρακτηριστικών ασφαλείας και των πολιτικών προϊόντων. Αντικατοπτρίζουν έναν ευρύτερο, σε ολόκληρο τον κλάδο που υπολογίζει με τις ψυχολογικές επιπτώσεις του AI. Οι ειδικοί έχουν προειδοποιήσει εδώ και πολύ καιρό για τους κινδύνους της συναισθηματικής εξάρτησης από τα chatbots που έχουν σχεδιαστεί για να μιμούνται την ανθρώπινη σύνδεση. Η φύση των γονέων ελέγχου των γονέων τοποθετεί το βάρος στους κηδεμόνες για να τους ενεργοποιήσουν. Η εταιρεία αναπτύσσει επίσης ένα μακροπρόθεσμο σύστημα ηλικίας για την αυτόματη εφαρμογή των ρυθμίσεων που είναι κατάλληλες για έφηβες από προεπιλογή. Προς το παρόν, ο σχηματισμός του Συμβουλίου εμπειρογνωμόνων σηματοδοτεί μια σαφή δέσμευση για την αντιμετώπιση της ασφάλειας.