加利福尼亞即將通過一項具有里程碑意義的法律來規範AI伴侶聊天機器人。 State lawmakers have approved Senate Bill 243, which now heads to Governor Gavin Newsom for his signature by October 12. The bill is a direct response to
AI與青少年相關的悲慘事件。
迫使公司添加重要的安全功能，例如阻止危險內容並提供自殺預防的幫助。
如果Newsom Signom Sign sign sign sign sign sign，加利福尼亞將是第一個使AI開發人員合法負責Chatbot安全的州。該法律將於2026年1月1日生效。
已經構成了 是保護脆弱的使用者的重要步驟。 “As we strive for innovation, we cannot forget our responsibility to protect the most vulnerable among us,”he stated, underscoring the urgency of the issue.
He was even more direct about the industry’s track record, saying, “Big Tech has proven time and again, they cannot be trusted to police themselves.”
New Guardrails for AI Companions
At its核心， sb 243授權的幾個關鍵保障範用戶的社會需求。對於未成年人，操作員必須每三個小時提供一次重複的警報，提醒他們他們正在與AI交談，並應休息一下。
該立法要求平台實施明確的協議，以解決對自殺念頭或自我傷害的任何用戶討論。這不僅包括防止AI參與此類主題，還包括將用戶介紹給危機服務提供商。
該法案還明確禁止聊天機器人生成或與未成年用戶進行性明確內容。
確保合規性，以確保強大的執法機構:私人權利機構。這使那些認為自己受到平台違規造成的損害的人，要求提起訴訟，要求每次違規，禁令救濟和律師費最高1,000美元。
該規定通過直接賦予用戶權力，而不是僅依靠國家執行的最終版本來使用戶能夠賦予強大的牙齒。
在青少年安全危機
的情況下，全國審查登上了
加利福尼亞的立法推動力並沒有在真空中發生。它反映了對AI對青少年的心理影響的日益增長的國家警報。亞當·雷恩（Adam Raine）的悲慘自殺使這種擔憂放大了，他的家人稱Chatgpt鼓勵了這一行為。
的一項重大行動，聯邦貿易委員會最近對包括Google，Meta和Openai在內的七個科技巨頭進行了重大調查。該機構正在審查其同伴聊天機器人的安全和數據實踐。
ftc主席安德魯·弗格森（Andrew N.
這種廣泛的譴責迫使像Meta和Openai這樣的公司對他們的青少年安全規則進行了大修。
專家長期以來警告了對情感依賴的潛力。正如公共衛生研究人員Linnea Laestadius所指出的那樣:“每天24小時，如果我們對某事感到不滿，我們可以伸出手並確認自己的感受。這具有令人難以置信的依賴風險。”
兩個賬單的故事:加利福尼亞州尋求AI AI INCULATION
b 243 START的搜索，這是一個強大的事物，這是一個強大的事物，這是一個強大的事物，而這是一個強大的事物，而這是一個強大的事實，那麼又一次地遇到了一份人，而這是一位出現的事物。 Bill，SB 1047。該立法旨在對所有大型“邊境” AI模型施加廣泛的安全測試要求。
SB 1047面對技術行業的反對牆。諸如OpenAI和Anthropic之類的主要參與者以及像Y Combinator這樣的風險投資公司都認為，該法案將扼殺創新並將業務趕出州。
2024年9月30日，州長Newsom否決了SB 1047。在他的審核中，他稱該法案的重點是型號的大小，並且要付出了不斷的風險。
這兩個法案的不同途徑強調了調節AI的複雜挑戰:在促進創新和確保公共安全之間找到平衡。
。
