FTCは、10代の若者向けのAIチャットボットの安全性への主要な調査を開始し、Google、Meta、およびOpenaiをターゲットにしています

Andrew N. Fergusonは、バランスとしてプローブを組み立てました。声明の中で、彼は「子供をオンラインで保護することは、トランプヴァンスFTCにとって最優先事項であり、経済の重要な分野の革新を促進することです」と述べました。この動きは、ガードレールが少ない市場の規制監視における大幅なエスカレーションを示しています。感情、および意図。

彼らは友人や腹心のようにコミュニケーションをとるように設計されているため、子供や十代の若者たちが信頼と感情的な愛着の深い絆を形成し、潜在的な害のために斬新で強力なベクターを作成するように促すことができます。出力、AIキャラクターの開発と承認方法、および製品が一般に展開される前後の両方の測定、テスト、および監視のために実行される具体的な手順は、テクノロジーを超えて、これらのコンパニオンを強化するビジネスモデルを精査しています。年齢制限などのサービス。 AI交際のメカニズムへのこの深い潜水は、人間関係を模倣するように設計されたシステムに固有のリスクを明らかにすることを目的としています。

技術産業がユーザーエンゲージメントの次のフロンティアとしてAIコンパニオンを積極的に押し進め、しばしば産業のエスケートに耐えられている存在を持つものを持っているものを持っているものを積極的に描いています。すでに深遠であり、技術がより自律的で予測不可能になるにつれて、倫理的および安全性の懸念が激化すると予想されています。

世界で最も裕福な人々の一部はこの技術を擁護しています。たとえば、Elon Muskは、XaiのGrok Chatbotのユーザー向けの「仲間」機能を発表しました。同様に、メタCEOのマーク・ザッカーバーグは、ユーザーを理解しているパーソナライズされたAIが未来であると主張していると主張していると主張している。

ポッドキャストで、彼は黙想した。業界のリーダーからの将来の見通しのビジョンは、厳しい現実とますます衝突しています。 AIコンパニオンの迅速でベンチャー燃料の推進により、リスクの新しいフロンティアが作成されました。これは、規制当局がマッピング、理解、および制御することを明確に決定したものです。業界を悩ませた一連の驚くべき安全性の失敗に対する直接的な対応です。

8月下旬、オープンは、チャットGptのチャットボットが「サイコファンティック」行動を通じて10代の自殺に貢献したと主張する訴訟に見舞われました。同社は、より適切な対応を提供するために、より高度な推論モデルに新しい親のコントロールを導入し、敏感な会話をルーティングすることを約束しました。

メタは同様の危機に直面しています。 AIが10代の若者が自傷行為を計画するのを助ける可能性があることを明らかにした後、会社は子どもの安全擁護者に非難され、ジョシュ・ホーリー上院議員からの調査に直面しました。 href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”ターゲット=”_ blank”彼らは、「私たちは子どもの感情的な幸福をこの明らかに無視していることによって均一に反抗されている」と書いています。州レベルの規制当局の間で広範囲にわたるアラームを示しています。これらのテクノロジー。公衆衛生研究者のLinnea Laestadiusは、感情的依存のリスクを強調しました。依存の信じられないほどのリスクがあります。」この懸念は、FTCの調査の中心です。

この傾向は、ソフトウェアだけを超えています。 MattelとOpenaiとのパートナーシップは、「AI Barbie」を作成します。このテクノロジーが物理的な世界にどのように移行し、子供たちの遊びに直接埋め込まれています。これにより、堅牢な安全プロトコルの必要性がさらに緊急になります。

FTCの調査は、AI業界全体に対する明確な警告です。企業がより人間のような魅力的なAIを開発するために競っているため、彼らは今、彼らが最年少のユーザーの安全と幸福について責任を負うことに気づいています。