カリフォルニアは、AIコンパニオンチャットボットを規制するために画期的な法律を可決する寸前です。州議会議員は、 sb 243マンデートいくつかのキーセーフガードニーズ。未成年者の場合、オペレーターは3時間ごとに繰り返しアラートを提供し、AIに話しかけていることを思い出させ、休憩を取る必要があります。
法律では、自殺念慮または自己耐力に関するユーザーの議論に対処するための明確なプロトコルを実装する必要があります。これには、AIがそのようなトピックに従事するのを防ぐだけでなく、ユーザーを危機サービスプロバイダーに積極的に紹介することも含まれます。
この法案は、Chatbotsが未成年ユーザーとの性的露骨なコンテンツを生成または関与させることを明示的に禁止します。これにより、プラットフォームの違反に害を及ぼし、違反ごとに最大1,000ドルの損害、差止命令による救済、弁護士費用を求める訴訟を起こすことができます。 amendments.
Initial drafts, for instance, sought to prevent operators from using “variable reward”tactics—features designed to encourage excessive engagement by offering users rare responses or unlocking new personalities, which critics argue can create addictive loops.
Provisions that would have required companies to report how often their chatbots *initiated* harmful discussions were also taken out.
Despite enjoying broad議会での超党派的な支援、法案には批評家がないわけではありません。コンピューター＆コミュニケーション業界協会（CCIA）のような業界グループは、“革新と法的複雑さそれは新しい規制から生じる可能性があります。
国民の精査は、10代の安全危機の中でマウントされます
カリフォルニアの立法上の推進は、真空では起こっていません。それは、10代の若者に対するAIの心理的影響に対する国家警報の高まりを反映しています。この懸念は、ChatGptがこの行為を奨励していると主張する10代のアダム・レインの悲劇的な自殺によって増幅されました。代理店は、コンパニオンチャットボットの安全性とデータ慣行を精査しています。
FTC会長のアンドリューN.ファーガソンは、調査をバランスの取れた行為として説明し、「子供をオンラインで保護することはトランプヴァンスFTCにとって最優先事項であり、経済の重要なセクターにおいて、この連邦政府の栄養補助範囲に就くための重要なセクターの重要な分野でイノベーションを促進しています。コンパニオンマーケット。
アラームは州の役人によっても反映されています。 44人の州検事総長の連合は、a
これら2つの法案の分岐パスは、AIを規制するという複雑な課題を強調しています。