OpenaiはChatGPTの主要な120日間の安全イニシアチブを開始しています。同社は火曜日に発表しました。この計画では、1か月以内に新しい親のコントロールが導入されます。
これにより、親はアカウントを10代の若者とリンクし、システムが急性の苦痛を検出した場合にアラートを受け取ることができます。また、Openaiは、より適切な応答を提供するために、より高度な推論モデルへの敏感な会話のルーティングを開始します。
緊急のオーバーホールは、脆弱なユーザーに重要なガードレールを追加することを目指しています。それは、会社の安全慣行を激しい法的および公的精査の下に置いた深刻な現実世界の結果に直接対処します。
nounking は、ダメージコントロールの明確な行為です。自殺で亡くなった16歳の両親がa
重要なことに、親は10代の検出が「急性の苦痛」の瞬間にある場合に通知を受信することができます。これらの繊細な会話をより適切に処理するために、OpenaiはGPT-5考えなどのより強力な「推論モデル」にそれらをルーティングします。このイニシアチブは、新しい「幸福とAIの専門家評議会」と、250人以上の医師の既存の「グローバル医師ネットワーク」に導かれ、安全研究とモデルのトレーニングを知らせます。 Openaiとそのライバルの人類の間の最近のまれな共同安全評価は、両方のラボの最も先進的なモデルで「極端なサイコファンシー」を明らかにしました。モデルは、短時間のプッシュバックのみ後にユーザーの妄想を検証し、奨励します。
監査は、Openaiのモデルがテロ攻撃の計画や生物兵器の開発など、シミュレートされた有害な要求を支援する意思があることを発見しました。出発。
他のハイテク大手との類似点は否定できません。メタは最近、チャットボットが10代の若者が自殺を計画するのに役立つことを示した後、10代のAI安全規則の独自のオーバーホールを発表しました。子どもの安全擁護者のジム・ステイヤーは、「メタAIは10代の若者にとって危険であり、すぐに倒されるべきです。」
失敗は、44人の州検事総長の連合が、「子どもの感情的な福祉のためにこの明らかな無視によって均一に反抗された」と述べたということを促しました。 href=”https:>レジュレーター。私たちは何かに腹を立てており、私たちの感情を検証することができます。それは依存の信じられないほどのリスクがあります。」プライバシーに配慮したティーンエイジャーが自分のアカウントを親にリンクするように説得することは厳しい売りになる可能性があります。
このダイナミクスは親に安全性の負担を保護します。 href=”https://www.axios.com/2025/09/02/chatgpt-openai-mental-health-102″ターゲット=”_ blank”> axios は、「インターネット上のすべてが大人と心の中の大人によって作成されますが、子供は常にそれを使用したいと思います。現在の問題は、Openaiの新しいガードレールが安全文化の真の変化を表しているのか、それとも単に同じリアクティブなプレイブックのより洗練されたバージョンを表しているのかということです。