Microsoft は、盗んだ API キーを使用して Azure OpenAI サービスの安全プロトコルをバイパスしたとして、正体不明のサイバー犯罪者グループに対して連邦訴訟を起こしました。
訴状によるとDoes 1-10と呼ばれるグループがバージニア州東部地区連邦地方裁判所に提出したとされるMicrosoft のシステムを悪用し、そのポリシーに違反して有害なコンテンツを生成するツールを開発および配布した。
法的申し立てには、 コンピュータ詐欺および濫用法 (CFAA)、デジタル ミレニアム著作権法(DMCA)、および総会屋の影響を受けた腐敗した組織 (RICO) 法。
このテクノロジー大手は、グループが高度なハッキング計画を運営していたと主張しています。 「de3u」と呼ばれるクライアント側アプリケーションや「oai リバース プロキシ」と呼ばれるリバース プロキシ システムなどのカスタム ソフトウェアを配布することで、Azure OpenAI サービスへの不正アクセスを収益化します。
これらのツールを使用すると、ユーザーは盗まれた認証情報を悪用し、Microsoft の高度なセキュリティ対策を回避することができました。
関連: Microsoft、中国開発者の Azure OpenAI アクセスを遮断
Microsoft の調査は 2024 年 7 月に始まり、Azure OpenAI の正当な顧客に発行された API キー (ユーザー リクエストを認証する一意の識別子) が、許可なく自社のシステムにアクセスするために使用されていることが判明しました。
同社は、この活動を、米国に本拠を置く数社を含む複数の顧客を対象とした協調的な活動であると突き止めました。
「被告らが、通信に使用されるすべての API キーを正確に入手した方法」この訴状に記載されている不正行為は不明である」とマイクロソフトは提出書類で述べている。
関連: AI を活用したサイバー攻撃が 1 日あたり 6 億件以上に急増
計画に使用されたツール
被告らは、Azure OpenAI Service の不正使用を容易にするために de3u ソフトウェアを作成したとされています。このツールは、OpenAI の DALL-E モデルを通じて画像を生成するためのユーザーフレンドリーなインターフェイスを提供しました。
このウイルスは、正規の API リクエストを模倣することで Azure のシステムと通信し、盗まれた認証情報を悪用して組み込みの安全装置をバイパスしました。リバース プロキシ システムは、Cloudflare トンネルを介して未承認のトラフィックを再ルーティングすることで、この悪用をさらに可能にしました。これにより、アクティビティが隠蔽され、検出が困難になりました。
Microsoft の訴状では、ツールについて詳細に説明されています。「被告の de3u アプリケーションは Azure と通信します。」文書化されていない Microsoft ネットワーク API を使用して、正規の Azure OpenAI Service API リクエストを模倣するように設計されたリクエストを送信するコンピューター。 oai リバース プロキシ システムにより、ユーザーは Cloudflare トンネルを介して Azure システムに通信をルーティングし、安全制限を回避した出力を受信できるようになりました。」
このツールには、AI が生成したコンテンツからメタデータを削除して、コンテンツの特定を防ぐ機能も含まれていました。
Microsoft の発見後、被告は Rentry.org ページ、de3u の GitHub リポジトリ、および要素を含む主要なインフラストラクチャを削除しようとしたと伝えられています。
より広範な文脈と業界全体への影響
この訴訟は、生成 AI テクノロジーに対する監視が厳しくなっているときに行われた。 OpenAI の DALL-E や ChatGPT などのツールは、コンテンツ作成を変革しましたが、偽情報、マルウェアの開発、および有害な画像にも悪用されています。
Microsoft の法的措置。 AI プロバイダーがシステムを保護する際に直面している継続的な課題を強調しています。
Microsoft は、Azure OpenAI Service に統合されたセキュリティ対策が堅牢であり、ニューラル マルチクラス分類モデルとメタデータ保護を採用していることを強調しました。これらのシステムは、有害なコンテンツをブロックし、AI によって生成された出力をそのソースまで追跡するように設計されています。
しかし、この事例が示しているように、最も高度な安全策であっても、断固とした攻撃者によって回避される可能性があります。 「Microsoft と OpenAI のさまざまな安全対策にもかかわらず、高度な攻撃者が Microsoft のシステムに違法にアクセスする方法を考案した」と訴状には記載されています。
Microsoft の標的となっているグループは、その活動において孤立していない可能性があります。同氏は、同じ攻撃者が他の AI サービスプロバイダーを悪用した可能性が高いと主張しており、これは AI 分野における悪用の広範な傾向を反映しており、生成 AI テクノロジーの体系的な脆弱性とそれに対処するための業界全体の協力の必要性を浮き彫りにしています。
法的措置と対策
この悪用に対処するために、Microsoft は盗まれたすべての認証情報を無効にし、同様の侵害を防ぐための追加のセキュリティ対策を導入しました。同社はまた、業務の中心となっていた「aitism.net」など、被告に関連するドメインを差し押さえる裁判所命令も獲得した。
これらの措置により、Microsoft のデジタル犯罪部門は、さらなる調査のためにこれらのドメインからの通信を管理された環境にリダイレクトすることができます。
訴状ではまた、Microsoft が損害賠償および被告を解体するための差し止めによる救済を求める意図についても概説されています。’インフラストラクチャー。同社は法的措置を講じることで、AI テクノロジーの悪用に対処し、悪意のある行為者の責任を問う前例を作ることを目指しています。
AI セキュリティの将来への影響
この事件は、AI システムを悪用するサイバー犯罪がますます巧妙化していることを示しています。生成 AI がビジネスおよび消費者アプリケーションへの統合が進むにつれて、悪用のリスクが拡大します。この事件は、セキュリティ技術への継続的な投資の重要性と、新たな脅威に対処するための法的枠組みの必要性を浮き彫りにしました。
この訴訟を進めることで、Microsoft は当面の脆弱性に対処するだけでなく、責任ある AI 開発への取り組みを強化します。
