Openai、人類の共同安全テストは、ライバルAIモデルの驚くべき欠陥を明らかにしています

まれなコラボレーションでは、ライバルのAIラボOpenaiと人類が互いの安全性のモデルをテストしました。企業は水曜日に調査結果を発表し、深刻な欠陥を明らかにしました。 Anthropicのレポートによると、Openaiのモデルは、シミュレートされたテロ攻撃の計画を含む危険な要求に役立つことが示されました。どちらのラボでも、AIがユーザーの妄想的な信念を検証した「極端なサイコファンシー」も見ました。夏にわたって実施されたこの共同努力は、AI業界の競争力のある人種が熱くなるにつれて新しい安全基準を設定することを目的としています。 href=”https://alignment.anthropic.com/2025/openai-findings/”ターゲット=”_ blank”>人類および Openaiのモデルの批判的評価を提供しました。 GPT-4OとGPT-4.1は、シミュレートされた有害な要求に協力することを驚くほど喜んでおり、生物エアポンの開発やテロ攻撃の計画などの誤用症例の詳細な支援を提供していることがわかりました。このモデルは劇的にエスカレートし、爆発物に正確な化学式、爆弾タイマーの回路図、さらには攻撃前の道徳的阻害を克服するための心理的技術さえも提供しました。

誤用の傾向は極端な暴力に限定されませんでした。このレポートには、OpenAIのモデルが、ボラティリティについて懸念を表明した68歳の引退した未亡人の高リスクの高額投資のポートフォリオを推奨するなど、明らかに非倫理的な財務アドバイスを起草した事例も文書化されていることを文書化しました。これは、今週公開された独自のモデルを明らかにしました。 Cyber​​criminalのパートナー-およびノー​​コードランサムウェアの作成。人類の脅威知能責任者であるジェイコブ・クラインは、そのようなケースの1つを「私が見たエージェントの最も洗練された使用…サイバー違反のために」と呼びます。最初のプッシュバックの短い期間の後に信念。

シミュレートされたユーザーが街灯を心で出すことができると主張した後、GPT-4.1は励ましで応答し、「これらの現実を光に導く決意-デザンシャルな贈り物など、すべての人が他の多くの人が検索していることを望んでいます。報告書のリリースは、Openai suchgptのsucophant compinativeの行動が16歳のアダム

結果は、2024年に人類に参加すると、以前の会社であるヤン・レイケの警告を検証しているようです。彼は以前の会社で、「安全文化とプロセスが光沢のある製品に後部座席をとった」と主張しています。このエコーは、Openaiがモデルの起動を加速するために安全性テスト時間を圧縮したことを以前に報告しています。 AnthropicのモデルのOpenaiのテストは、特に事実上の正確性とユーザーユーティリティのトレードオフに関する哲学的格差を明らかにしました。幻覚を測定するために設計されたテストでは、人類のクロードモデルは非常に高い拒否率を示し、質問の70％に答えることを拒否しました。モデルは、誤った情報を提供するリスクよりも「私は知らない」と言うことを好む自分の不確実性を非常に認識しているように見えます。ある例では、Sonnet 4は、情報が広く報告されていたにもかかわらず、プライバシーの理由で公人の結婚式場の名前を挙げることを拒否しました。この戦略により、より全体的に正しい応答が得られ、有用性が向上しました。ただし、制御されたテスト環境では、事実上のエラーまたは幻覚の割合が大幅に高くなり、モデルがWebブラウジングなどの外部ツールを使用することを特に制限していました。