Η Καλιφόρνια βρίσκεται στα πρόθυρα να περάσει έναν νόμο ορόσημο για να ρυθμίσει τα chatbots του AI Companion. Οι νομοθέτες του κράτους έχουν εγκρίνει senate bill 243 , που τώρα είναι ο επικεφαλής του Gavin Newsom για τον Οκτώβριο. Τα τραγικά γεγονότα όπου το AI συνδέεται με την εφηβική αυτοτραυματισμό. Ο νόμος θα τεθεί σε ισχύ την 1η Ιανουαρίου 2026. href=”https://sd18.senate.ca.gov/news/california-assembly-passes-landmark-ai-chatbot-safeguards”target=”_ blank”>”Καθώς προσπαθούμε για την καινοτομία, δεν μπορούμε να ξεχάσουμε την ευθύνη μας να προστατεύσουμε τους πιο ευάλωτους μεταξύ μας”, δήλωσε, υπογραμμίζοντας τον επείγοντα χαρακτήρα του θέματος. sb 243 εντολίζει αρκετές βασικές διασφάλιση για αυτό που ορίζει ως”cannion chatbots”-Οι κοινωνικές ανάγκες του χρήστη. Για τους ανηλίκους, οι φορείς εκμετάλλευσης πρέπει να παρέχουν επαναλαμβανόμενες ειδοποιήσεις κάθε τρεις ώρες, υπενθυμίζοντας τους ότι μιλούν σε ένα AI και πρέπει να κάνουν ένα διάλειμμα. Αυτό περιλαμβάνει όχι μόνο την εμπλοκή του AI να συμμετέχει σε τέτοια θέματα, αλλά και να αναφέρεται ενεργά στους χρήστες σε παρόχους υπηρεσιών κρίσης. Αυτό επιτρέπει σε άτομα που πιστεύουν ότι έχουν υποστεί βλάβη από τις παραβιάσεις μιας πλατφόρμας για την υποβολή αγωγών που ζητούν αποζημίωση μέχρι 1.000 δολάρια ανά παραβίαση, ανασταλτική ανακούφιση και οι τελικές εκδόσεις του νομοσχεδίου αντανακλούν τη νομοθετική, όπως οι νόμιμες προϋποθέσεις. Οι τροποποιήσεις.
Τα αρχικά σχέδια, για παράδειγμα, επιδιώκουν να εμποδίσουν τους φορείς να χρησιμοποιούν τακτικές”μεταβλητής ανταμοιβής”-οι προβολές που θα απαιτούσαν να αναφέρουν την υπερβολική δέσμευση, προσφέροντας στους χρήστες σπάνιες απαντήσεις ή ξεκλειδώνοντας νέες προσωπικότητες, οι οποίες οι επικριτές υποστηρίζουν ότι οι επικριτές μπορούν να δημιουργήσουν εθιστικές loops.
Παρά το γεγονός ότι απολαμβάνει ευρεία διμερή υποστήριξη στο νομοθετικό σώμα, το νομοσχέδιο δεν είναι χωρίς τους επικριτές του. Industry groups like the Computer & Communications Industry Association (CCIA) have voiced opposition, citing potential risks to Η καινοτομία και η νομική πολυπλοκότητα που θα μπορούσαν να προκύψουν από τους νέους κανονισμούς. Αντικατοπτρίζει έναν αυξανόμενο εθνικό συναγερμό σχετικά με τον ψυχολογικό αντίκτυπο του AI στους εφήβους. Αυτή η ανησυχία ενισχύθηκε από την τραγική αυτοκτονία του Adam Raine, ενός έφηβου του οποίου η οικογένεια ισχυρίζεται ότι η ChatGpt ενθάρρυνε την πράξη. Ο οργανισμός εξετάζει τις πρακτικές ασφάλειας και δεδομένων των συντρόφων τους chatbots. Η ταχέως αναπτυσσόμενη αγορά συνοδευτικών AI.
Ο συναγερμός έχει επίσης αντληθεί από κρατικούς αξιωματούχους. Ένας συνασπισμός 44 γενικών δικηγόρων που εξέδωσε ένα scathing Η συναισθηματική ευημερία…”, απαντώντας στις αναφορές του AI της Meta που βοηθούσε τους εφήβους να σχεδιάσουν αυτοτραυματισμό.
Αυτή η ευρεία καταδίκη έχει αναγκάσει εταιρείες όπως η Meta και η OpenAI για να αναθεωρήσουν τους κανόνες της εφηβικής ασφάλειας. Όπως σημείωσε ο ερευνητής της δημόσιας υγείας Linnea Laestadius,”Για 24 ώρες την ημέρα, αν είμαστε αναστατωμένοι για κάτι, μπορούμε να φτάσουμε και να έχουμε τα συναισθήματά μας να επικυρωθούν. 1047. Η νομοθεσία αυτή αποσκοπούσε στην επιβολή ευρείων απαιτήσεων δοκιμών ασφαλείας σε όλα τα μεγάλα μοντέλα AI”Frontier”. Οι κύριοι παίκτες όπως το OpenAi και το Anthropic, μαζί με τις εταιρείες επιχειρηματικών κεφαλαίων όπως το Y Combinator, υποστήριξαν ότι το νομοσχέδιο θα καταπνίξει την καινοτομία και θα οδηγήσει τις επιχειρήσεις από το κράτος.
Ο συγγραφέας του νομοσχεδίου, ο γερουσιαστής Scott Wiener,
Οι αποκλίνουσες διαδρομές αυτών των δύο λογαριασμών υπογραμμίζουν την πολύπλοκη πρόκληση της ρύθμισης του AI: την εξεύρεση ισορροπίας μεταξύ της προώθησης της καινοτομίας και της διασφάλισης της δημόσιας ασφάλειας.
