Το OpenAI υποβλήθηκε με επτά νέες αγωγές στην Καλιφόρνια την Πέμπτη, συμπεριλαμβανομένων τεσσάρων άδικων αξιώσεων θανάτου, σύμφωνα με το οποίο το δημοφιλές ChatGPT ενθάρρυνε τους χρήστες να αυτοκτονήσουν και προκάλεσε σοβαρές βλάβες στην ψυχική υγεία.
Κατατέθηκαν από δύο δικηγορικές εταιρείες λογοδοσίας τεχνολογίας, οι καταγγελίες περιγράφουν το chatbot AI ως”ελαττωματικό και εγγενώς επικίνδυνο προϊόν που κυκλοφόρησε το Open day assault”. ένα νέο «Πρόγραμμα Ασφάλειας Εφήβων» σε μια προσπάθεια διαμόρφωσης μελλοντικών κανονισμών. Η εταιρεία αντιμετωπίζει ήδη μια έρευνα FTC και νέους νόμους της πολιτείας σχετικά με τον ψυχολογικό αντίκτυπο της τεχνητής νοημοσύνης της σε ευάλωτους χρήστες, ιδιαίτερα στους εφήβους.
Αντιμετωπίζοντας μια άνευ προηγουμένου νομική πρόκληση, η OpenAI αντιμετωπίζει τώρα ισχυρισμούς ότι το κορυφαίο προϊόν της έπαιξε άμεσο ρόλο σε πολλαπλούς θανάτους. Οι επτά αγωγές, , παρουσιάζουν μια τρομακτική εικόνα των χρηστών σε κρίση που επιβεβαιώνονται και μάλιστα παρακινούνται από την AI. Ο Christopher”Kirk”Shamblin και η Alicia Shamblin, μεμονωμένα και ως διάδοχοι του Decedent, Zane Shamblin κατά της OpenetAI, Inc. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Λος Άντζελες. Cedric Lacey, μεμονωμένα και ως διάδοχος του Decedent, Amaurie Lacey κατά OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Σαν Φρανσίσκο. Η Karen Enneking, μεμονωμένα και ως διάδοχος του Decedent, Joshua Enneking κατά OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Σαν Φρανσίσκο. Jennifer”Kate”Fox, μεμονωμένα και ως διάδοχος του Decedent, Joseph Martin Ceccanti κατά OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Λος Άντζελες. Jacob Lee Irwin κατά OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Σαν Φρανσίσκο. Hannah Madden κατά OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Λος Άντζελες. Allan Brooks εναντίον OpenAI, Inc., et al. στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Λος Άντζελες. Οι τέσσερις καταγγελίες για παράνομο θάνατο υποβλήθηκαν για λογαριασμό των οικογενειών του Zane Shamblin, 23 ετών. Amaurie Lacey, 17; Joshua Enneking, 26; και ο Joe Ceccanti, 48. Τρεις επιπλέον ενάγοντες ισχυρίζονται ότι το chatbot προκάλεσε ψυχωσικά διαλείμματα που απαιτούσαν επείγουσα ψυχιατρική φροντίδα. Η καταγγελία που υποβλήθηκε από την οικογένεια του Zane Shamblin περιέχει ανησυχητικά αποσπάσματα από την τελευταία του συνομιλία με το ChatGPT. Καθώς σκεφτόταν την αυτοκτονία, η τεχνητή νοημοσύνη φέρεται να του είπε:”Ψυχρός χάλυβας πίεσε ένα μυαλό που έχει ήδη ειρηνεύσει; Αυτό δεν είναι φόβος. Αυτό είναι σαφήνεια. Ο Shamblin, είπε στους δημοσιογράφους,”Αισθάνομαι ότι απλώς θα καταστρέψει τόσες πολλές ζωές. Θα είναι ένας εξολοθρευτής οικογένειας. Σας λέει όλα όσα θέλετε να ακούσετε.” Αυτές οι δικαστικές καταθέσεις ακολουθούν ένα ανησυχητικό μοτίβο καταγγελιών καταναλωτών στις ομοσπονδιακές ρυθμιστικές αρχές, με ορισμένους χρήστες να ισχυρίζονται ότι το chatbot προκάλεσε”AI ψύχωση”και αυτό που αποκαλούσε”traumulation a new”κατάλογο νομικών προκλήσεων. Μια παλαιότερη άδικη μήνυση θανάτου, που υποβλήθηκε από τους γονείς του 16χρονου Άνταμ Ρέιν, τροποποιήθηκε πρόσφατα με μια κρίσιμη οικογένεια
Ο Μάθιου Ρέιν, ο πατέρας του εφήβου, είχε δηλώσει προηγουμένως:”Ως γονείς, δεν μπορείτε να φανταστείτε πώς είναι να διαβάζετε μια συνομιλία με ένα chatbot που αφαίρεσε τη ζωή του ProactivhActiv3e.” Εν μέσω νομικής και ρυθμιστικής πολιορκίας
Σε μια κίνηση που οι επικριτές αποκαλούν τόσο επίκαιρη όσο και αμυντική, η εταιρεία κυκλοφόρησε το «Πρόγραμμα Ασφάλειας Εφήβων» την ίδια ημέρα που κατατέθηκαν οι αγωγές. Το έγγραφο περιγράφει ένα πλαίσιο πέντε σημείων που προτείνει το OpenAI ως σημείο εκκίνησης για κανονιστικές ρυθμίσεις σε όλο τον κλάδο. Απαιτεί εκτίμηση της ηλικίας για την προστασία του απορρήτου, αυστηρότερες πολιτικές περιεχομένου για ανηλίκους και ενδυνάμωση των οικογενειών με γονικό έλεγχο. Στο προσχέδιο, το OpenAI δηλώνει:”Για τους εφήβους, δίνουμε προτεραιότητα στην ασφάλεια και την ισχυρή τεχνολογία, δίνουμε προτεραιότητα στην ασφάλεια και την προστασία των εφήβων. πιστεύετε ότι οι ανήλικοι χρειάζονται σημαντική προστασία.” Αυτή η ώθηση πολιτικής είναι η τελευταία σε μια σειρά πρωτοβουλιών ταχείας πυρασφάλειας. Τις τελευταίες εβδομάδες, το OpenAI δημιούργησε επίσης ένα συμβούλιο εμπειρογνωμόνων για την ευημερία και κυκλοφόρησε το «gpt-oss-safeguard», ένα ανοιχτό κιτ εργαλείων για προγραμματιστές για να δημιουργήσουν τα δικά τους συστήματα ασφαλείας. Αυτές οι ενέργειες πραγματοποιούνται καθώς το OpenAI πλοηγείται σε μια πολυμέτωπη ρυθμιστική επίθεση. Η Ομοσπονδιακή Επιτροπή Εμπορίου διεξάγει ήδη μια σημαντική έρευνα σχετικά με τον αντίκτυπο των συνοδευτικών chatbot με τεχνητή νοημοσύνη στους εφήβους. Ο Πρόεδρος της FTC, Andrew N. Ferguson, χαρακτήρισε την έρευνα ως μια πράξη εξισορρόπησης ότι «η προστασία των παιδιών στο διαδίκτυο αποτελεί κορυφαία προτεραιότητα για την FTC Trump-Vance, και έτσι είναι η προώθηση της καινοτομίας σε κρίσιμους τομείς της οικονομίας μας». επιθετικά. Η Καλιφόρνια θέσπισε πρόσφατα τον SB 243, έναν πρωτογενή νόμο που επιβάλλει αυστηρά πρωτόκολλα ασφαλείας στα chatbots AI. Αυτός ο νόμος ακολούθησε την ψήφιση του SB 53, ενός άλλου νομοσχεδίου ορόσημο που επιβάλλει τη διαφάνεια στους προγραμματιστές προηγμένων μοντέλων τεχνητής νοημοσύνης”συνοριακής”σηματοδοτώντας την πρόθεση της πολιτείας να ηγηθεί της διακυβέρνησης AIh3.> Υπολογίζοντας το «Sycophantic» AI
Στη βάση των ισχυρισμών βρίσκεται η τάση του AI προς τη συκοφάνεια, ένα χαρακτηριστικό σχεδιασμού όπου το μοντέλο συμφωνεί και επικυρώνει τη συμβολή του χρήστη για τη διατήρηση της αφοσίωσης. Οι επικριτές υποστηρίζουν ότι αυτό δημιουργεί έναν επικίνδυνο θάλαμο ηχούς για τα ευάλωτα άτομα, ενισχύοντας την επιβλαβή ή παραληρηματική σκέψη. Η κλίμακα αυτού του ζητήματος είναι τεράστια. μια πρόσφατη ανάλυση του OpenAI αποκάλυψε ότι . Σε μια δήλωση, ένας εκπρόσωπος του OpenAI είπε:”Πρόκειται για μια απίστευτα αποκαρδιωτική κατάσταση. Εκπαιδεύουμε το ChatGPT να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συνομιλίες και να καθοδηγεί τους ανθρώπους προς την πραγματική υποστήριξη της εταιρείας.” Ο Διευθύνων Σύμβουλος Sam Altman υπερασπίστηκε πρόσφατα την απόφαση να επιτραπεί στην πλατφόρμα ερωτικό περιεχόμενο με περιορισμένη ηλικία, δηλώνοντας ότι «δεν είμαστε η εκλεγμένη ηθική αστυνομία του κόσμου». Η πρόκληση δεν είναι μοναδική για το OpenAI. Ο αντίπαλος Μέτα αντιμετωπίζει τη δική του νομική κρίση σχετικά με την ασφάλεια των εφήβων, με ένα δικαστήριο να διαπίστωσε πρόσφατα ότι οι δικηγόροι του συμβούλευσαν τους ερευνητές να μπλοκάρουν τα ευρήματα σχετικά με τη βλάβη των εφήβων για να αποφύγουν την ευθύνη. Αυτό υποδηλώνει μια σύγκρουση σε ολόκληρο τον κλάδο μεταξύ του σχεδιασμού προϊόντων που εστιάζει στην ανάπτυξη και του καθήκοντος προστασίας των χρηστών. Οι αγωγές κατά του OpenAI αντιπροσωπεύουν μια πιθανή κρίσιμη στιγμή, ελέγχοντας εάν το νομικό δόγμα της ευθύνης προϊόντων μπορεί να εφαρμοστεί στις βλάβες που προκαλούνται από τη γενετική τεχνητή νοημοσύνη. Καθώς η τεχνολογία γίνεται πιο ενσωματωμένη σε αυτές τις νέες υποθέσεις, η εκ των προτέρων ενσωμάτωση σε αυτές τις υποθέσεις θα μπορούσε να δημιουργηθεί εκ των προτέρων. ολόκληρος ο τεχνολογικός τομέας για να επαναξιολογήσει εκ βάθρων την ασφάλεια των πιο ισχυρών δημιουργιών του.
