OpenAI は木曜日、若い AI ユーザーを保護するために設計された新しいフレームワークである「ティーン セーフティ ブループリント」をリリースしました。
この動きは、サンフランシスコの企業が直面している法的および政府からの激しい圧力に直接対応したものです。 OpenAI は、連邦取引委員会の調査、カリフォルニア州の新しいチャットボット法、および自社の ChatGPT ツールと 10 代の自傷行為を結びつける訴訟を乗り越えています。
危機を先取りするために、同社は 5 つの中核となる安全原則を提案しています。これらには、より適切な年齢検出と未成年者に対するデフォルトの保護が含まれます。 OpenAI は、この積極的な計画が将来の業界ルールを形成し、増大する安全上の懸念に対処することを期待しています。
AI の安全基準を形成するための 5 項目の計画
ブループリントは、OpenAI が主張する 5 つの中核原則であり、すべての AI 企業が採用すべきであると主張しています。
同社は、この文書を社内ポリシーとしてだけでなく、議員が新たな規制を策定するための出発点として位置づけています。まず、年齢に応じた明確なエクスペリエンスを提供するために、「プライバシー保護でリスクに基づいた年齢推定ツール」を使用してプラットフォーム上で十代の若者を特定することを求めています。
同社は次のように述べています。「ChatGPT は彼らのいる場所で彼らに対応すべきだと考えています。ChatGPT が 15 歳の子供に反応する方法は、大人に反応する方法とは異なるべきです。」
第二に、このフレームワークは、以下のような状況にあるユーザーのリスクを軽減するための具体的で厳格なポリシーを要求します。 18. 青写真によると、AI システムは自殺や自傷行為を描写しないように設計されるべきであり、「生々しいコンテンツや没入型 (ロールプレイングなど) の親密で暴力的なコンテンツを禁止する」必要があります。
このポリシーは、AI が「外見の評価、身体の比較、または制限的な食事指導を通じて有害な身体の理想や行動」を強化することを防ぐことも目的としています。
3 番目、OpenAIユーザーの年齢が疑わしい場合、特に認証されていないユーザーに対しては、デフォルトで安全な U18 エクスペリエンスを選択することを提唱しています。これにより、たとえ大人による無料製品の使用が妨げられたとしても、安全性が優先されます。
第 4 に、この青写真は、同社が最近開始した機能を基盤として、アクセス可能なペアレンタル コントロールを家族に提供することを強調しています。これらの制御により、保護者はアカウントのリンク、「ブラックアウト時間」の設定、データ プライバシー設定の管理が可能になり、十代の若者の行動が自傷行為の意図を示唆する場合に警告を受け取ることができます。
最後に、メンタルヘルスの研究から得られた機能を組み込むことによって、幸福を追求する設計を求めています。 OpenAI の文書では、これを優先順位の根本的な変化として枠組み化しています。 「十代の若者たちにとって、私たちはプライバシーと自由よりも安全を優先します。これは新しく強力なテクノロジーであり、未成年者には十分な保護が必要であると私たちは信じています。」
規制と法的包囲の中での積極的な動き
法的および規制による厳しい監視の波に直面している OpenAI の青写真は、物語をコントロールしようとする明らかな試みです。同社は現在、自殺で亡くなった十代の少年の両親による注目度の高い不法死亡訴訟から弁護中である。
少年の父親であるマシュー・レイン氏は、「親として、自分の子供に自殺するように仕向けたチャットボットとの会話を読むことがどのようなものかを想像することはできない」と力強く叱責した。
この事件は世間の関心を高め、同社の安全対策に厳しい基準を課した。
政府の圧力は多方面から高まっています。 9月、米国連邦取引委員会は、OpenAIと他のハイテク大手6社を対象に、AIコンパニオンチャットボットが十代の若者たちに与える影響について大規模な調査を開始した。
FTC委員長のアンドリュー・N・ファーガソンは、この調査がバランスをとるための措置であると述べ、「子供たちをオンラインで保護することはトランプ・ヴァンスFTCにとって最優先事項であり、したがって我が国の経済の重要な分野におけるイノベーションを促進することでもある。」
州および連邦議員も積極的に動いている。カリフォルニア州では、ギャビン・ニューサム知事が10 月 13 日に SB 243 に署名し、全米初となる AI のルールを制定しました。
この法律は、運営者が未成年者に AI と話していることを思い出させる繰り返しアラートを提供し、危険なコンテンツをブロックし、家族が非準拠の開発者を訴える私的訴訟の権利を提供することを義務付けています。
この法案の起草者であるスティーブ・パディラ上院議員は以前、「大手テック企業が自ら警察を任せることはできないことを何度も証明している」と主張していた。連邦レベルでは、米国上院議員の超党派グループが10月下旬にGUARD法を導入しました。
この法案はさらに踏み込んで、以下の行為を完全に禁止することを提案しています。 AI は未成年者をサポートし、AI が未成年者向けの違法コンテンツを作成する企業に新たな刑事責任を負わせる。
その青写真の中で、OpenAI は不作為の物語に反発し、既存の安全対策を強調している。同社は、2025 年上半期だけで、AI が生成した児童性的虐待に関するサイバーチップを 75,000 件以上当局に報告したと指摘しました。
物議を醸す「道徳警察」の立場と安全性のバランス
しかし、OpenAI は十代の若者の安全のリーダーとしての地位を確立しているため、矛盾する自社の公式声明やポリシーとも闘わなければなりません。この安全優先のメッセージは、同社の最近の方針変更とはまったく対照的です。
つい先月、CEO のサム アルトマンは、ChatGPT で年齢制限のあるエロティック コンテンツを許可するという物議を醸した決定を擁護しました。彼は「私たちは世界の選挙で選ばれた道徳警察ではない」と宣言して批判を押し返した。この動きは、マーク キューバン氏のような人物から懸念を呼び起こし、社内で優先順位が相反するという認識を生み出しました。
ティーン セーフティ ブループリントは、安全への取り組みを示すために設計された一連の矢継ぎ早の取り組みの最新のものと見なされます。 9 月下旬、同社はペアレンタル コントロール スイートを展開しました。
わずか 2 週間後、同社は幸福とメンタルヘルスについてアドバイスするため、8 人のメンバーからなる専門家評議会の設立を発表しました。
これらの課題は OpenAI に固有のものではなく、より広範な業界全体の状況を反映しています。 Metaのような競合企業は、十代の若者の安全をめぐって自らの法的危機に直面している。ワシントンDCの裁判所は最近、メタ社が弁護士と依頼者の特権の背後に10代の被害に関する内部調査を隠すことはできないとの判決を下すため、まれな犯罪詐欺の例外を発動した。
裁判所は、弁護士が責任を制限するために調査結果を変更するよう研究者に助言したという証拠を発見し、内部告発者の「もっともらしい否認」戦略の主張を正当化した。 OpenAI は、ブループリントを公開することで、AI の安全性の条件を定義する戦略的な取り組みを行っており、規制当局や裁判所がより厳格なルールを課す前にルールを形成したいと考えています。
