GoogleのAI搭載のバグハンター、Big Sleepは、人気のあるオープンソースソフトウェアで20の新しいセキュリティ脆弱性を正常に特定し、報告しました。成果は、月曜日に、Googleのセキュリティ担当副社長によって月曜日に発表されました。 FFMPEGメディアライブラリとImageMagick編集スイート。これは、自動化された脆弱性の発見のための重要なマイルストーンです。
コラボレーション自体は注目に値します。 Project Zeroは、インパクトの高い脆弱性を見つけることで知られるGoogleのセキュリティ研究者チームであり、DeepMindはその旗艦AI研究部門です。 Project Zeroの攻撃的なセキュリティの考え方をDeepMindのAI能力と組み合わせることで、大きな睡眠にユニークなエッジを与えます。 Googleは人間の専門家が各レポートをレビューして品質を確保することを確認しましたが、バグの最初の発見と複製は、人間の介入なしにAIによって完全に処理されました。プロジェクトの旅は、2024年11月の顕著な概念実証から始まりました。ビッグスリープが初めての脆弱性を発見しました。ユビキタスなSQLiteデータベースエンジンのスタックバッファーのアンダーフロー。
初期発見は、欠陥コードが公開される前に発見されましたが、患者の可能性を証明します。 GoogleがBig Sleepが差し迫った脅威を積極的に中和したことをGoogleが明らかにした2025年7月に、利害関係がかなり上がった。この動きは、単純なバグの発見から、アクティブなインテリジェンス主導の脅威防止への重大なシフトを示しています。それは攻撃者との競争であり、AIが勝ちました。トラッカーは、プロジェクトが自律的な発見機能を正常にスケーリングしていることを示しています。 FFMPEGやImageMagickなどのターゲットの選択は戦略的です。これらの基礎ライブラリの欠陥はソフトウェアエコシステム全体でカスケードに影響を与える可能性があるためです。会社の広報担当者であるキンバリー・サムラによると、「高品質で実用的な報告を確保するために、報告する前にループに人間の専門家がいますが、人間の介入なしに各脆弱性がAIエージェントによって見つかり、再現されました。」この用語は、自動化されたツールによって生成された低品質、幻覚、または無関係なバグレポートの洪水を指します。これは、オープンソースプロジェクトのボランティアメンテナーを圧倒することができます。 AI Security Startupの共同設立者であるVlad Ionescu runsybil は、TechCrunchに語りました。適切に管理されたときのテクノロジーの可能性。 Royal Hansen, Google’s vice president of engineering, celebrated the findings on X as “a new frontier in automated vulnerability discovery,”suggesting the benefits of high-quality AI research outweigh the challenges.
大規模な実行の初期結果固定: https://t.co/9oiaffoatb
-ロイヤルハンセン（@royalhansen） 8月4日、2025年
サイバーセキュリティ
ビッグスリープの成果は、サイバーセキュリティにおけるより広く、エスカレートするAIアームレースを背景に展開します。フィールドで自動化されたバグハンターはそれだけではありません。 RunsybilやXbowなどのツールも見出しを作成しています。最近xbow ハッケロンリーダーボードのトップ。他のハイテク大手は補完的なシステムを構築しています。たとえば、Metaは最近、AIモデルがそもそも不安定なコードを生成するのを防ぐために設計されたLlamafirewallとともに、AIがバグを自動的に修正できる方法を評価するためにAutopatchBenchを発表しました。防御に使用される同じAIモデルは、安全でないコーディングの慣行を永続させる可能性もあります。最近の学術研究により、GitHubの公開コードで訓練された多くのLLMSは、「毒されたLLM」問題と呼ばれる現象である古いバグを再現することを学びました。 AIの双方向の性質は、AI主導の攻撃がより洗練され、従来のセキュリティ対策が不十分になることが判明しているため、防御戦略の急速な進化を強制しています。 NTTデータのSheetal Mehtaが関連するコンテキストで指摘したように、「断片化されたセキュリティツールは、今日の自動攻撃に追いつくことはできません」。 Googleのような企業にとっての課題は、AIの防御力を進め続けることです。