Microsoft đã đệ đơn kiện liên bang chống lại một nhóm tội phạm mạng không xác định bị cáo buộc sử dụng khóa API bị đánh cắp để vượt qua các giao thức an toàn trong Dịch vụ Azure OpenAI của mình.
Theo khiếu nại đã nộp đơn lên Tòa án quận phía Đông Virginia của Hoa Kỳ, nhóm, được gọi là Does 1–10, được cho là đã phát triển và phân phối các công cụ để khai thác hệ thống của Microsoft và tạo ra nội dung có hại vi phạm chính sách của mình.
Các khiếu nại pháp lý bao gồm vi phạm Đạo luật lạm dụng và gian lận máy tính ( CFAA), Đạo luật bản quyền kỹ thuật số thiên niên kỷ (DMCA) và Đạo luật về các tổ chức bị ảnh hưởng và tham nhũng (RICO) của Racketeer.
Gã khổng lồ công nghệ cáo buộc rằng nhóm đã vận hành một kế hoạch tấn công tinh vi, kiếm tiền từ hoạt động truy cập trái phép vào Dịch vụ Azure OpenAI bằng cách phân phối phần mềm tùy chỉnh, bao gồm ứng dụng phía máy khách có tên là “de3u” và hệ thống proxy ngược có tên là “oai proxy ngược”.
Những công cụ này cho phép người dùng khai thác thông tin đăng nhập bị đánh cắp và phá vỡ các biện pháp bảo mật nâng cao của Microsoft.
Liên quan: Microsoft cắt quyền truy cập Azure OpenAI cho các nhà phát triển Trung Quốc
Cuộc điều tra của Microsoft bắt đầu vào tháng 7 năm 2024 khi phát hiện ra rằng các khóa API—giá trị nhận dạng duy nhất xác thực yêu cầu của người dùng—được cấp cho khách hàng Azure OpenAI hợp pháp đang được sử dụng để truy cập trái phép vào hệ thống của Microsoft.
Công ty đã truy tìm hoạt động này là một hoạt động phối hợp nhắm vào nhiều khách hàng, bao gồm một số công ty có trụ sở tại Hoa Kỳ.
“Cách thức chính xác mà Bị cáo có được tất cả các Khóa API được sử dụng để mang theo Microsoft cho biết trong hồ sơ của mình rằng hành vi sai trái được mô tả trong Khiếu nại này vẫn chưa được xác định,”nhưng có vẻ như Bị cáo đã tham gia vào một kiểu đánh cắp Khóa API có hệ thống, cho phép họ đánh cắp Khóa API của Microsoft từ nhiều khách hàng của Microsoft.”
Có liên quan: Các cuộc tấn công mạng do AI điều khiển tăng vọt gây ra hơn 600 triệu sự cố hàng ngày
Các công cụ được sử dụng trong kế hoạch
các bị cáo bị cáo buộc đã tạo ra phần mềm de3u để tạo điều kiện cho việc sử dụng trái phép Dịch vụ Azure OpenAI. Công cụ này cung cấp giao diện thân thiện với người dùng để tạo hình ảnh thông qua mô hình DALL-E của OpenAI.
Nó giao tiếp với các hệ thống của Azure bằng cách bắt chước các yêu cầu API hợp pháp, khai thác thông tin xác thực bị đánh cắp để vượt qua các biện pháp bảo vệ tích hợp sẵn. Hệ thống proxy ngược tiếp tục tạo điều kiện cho hành vi lạm dụng này bằng cách định tuyến lại lưu lượng truy cập trái phép thông qua các đường hầm Cloudflare, làm che khuất các hoạt động và khiến chúng khó bị phát hiện hơn.
Khiếu nại của Microsoft mô tả chi tiết các công cụ: “Ứng dụng de3u của Bị cáo giao tiếp với Azure các máy tính sử dụng API mạng Microsoft không có giấy tờ để gửi các yêu cầu được thiết kế nhằm bắt chước các yêu cầu API dịch vụ Azure OpenAI hợp pháp. Hệ thống proxy ngược oai cho phép người dùng định tuyến thông tin liên lạc qua đường hầm Cloudflare vào hệ thống Azure và nhận kết quả đầu ra vượt qua các hạn chế về an toàn.”
Các công cụ này cũng bao gồm các tính năng loại bỏ siêu dữ liệu khỏi nội dung do AI tạo, ngăn chặn việc nhận dạng nguồn gốc của nó và tiếp tục tạo điều kiện cho việc sử dụng sai mục đích
Sau phát hiện của Microsoft, các bị cáo được cho là đã cố gắng xóa cơ sở hạ tầng quan trọng, bao gồm các trang Rentry.org, kho lưu trữ GitHub cho de3u và các thành phần của hệ thống proxy ngược.
Bối cảnh rộng hơn và những tác động trong toàn ngành
Vụ kiện xảy ra vào thời điểm các công nghệ AI tổng hợp đang bị giám sát chặt chẽ hơn vì các công cụ có thể bị lạm dụng như DALL-E và ChatGPT của OpenAI. đã biến đổi việc tạo nội dung nhưng cũng bị lợi dụng để đưa thông tin sai lệch, phát triển phần mềm độc hại và hình ảnh có hại.
Hành động pháp lý của Microsoft nhấn mạnh những thách thức đang diễn ra mà các nhà cung cấp AI phải đối mặt trong việc bảo vệ hệ thống của họ.
Microsoft đã gặp phải. nhấn mạnh rằng các biện pháp bảo mật được tích hợp vào Dịch vụ Azure OpenAI rất mạnh mẽ, sử dụng các mô hình phân loại đa lớp thần kinh và bảo vệ siêu dữ liệu. Các hệ thống này được thiết kế để chặn nội dung có hại và truy tìm nguồn gốc của các kết quả đầu ra do AI tạo ra.
Tuy nhiên, như trường hợp này chứng minh, ngay cả những biện pháp bảo vệ tiên tiến nhất cũng có thể bị phá vỡ bởi những kẻ kiên quyết. Đơn khiếu nại lưu ý: “Bất chấp các biện pháp giảm thiểu an toàn khác nhau của Microsoft và OpenAI, những kẻ xấu tinh vi đã nghĩ ra nhiều cách để có được quyền truy cập bất hợp pháp vào hệ thống của Microsoft”.
Nhóm bị Microsoft nhắm đến có thể không bị cô lập trong các hoạt động của mình. Công ty cáo buộc rằng các tác nhân tương tự có thể đã khai thác các nhà cung cấp dịch vụ AI khác, phản ánh xu hướng lạm dụng rộng rãi hơn trong không gian AI. Điều này nêu bật các lỗ hổng hệ thống của các công nghệ AI tổng hợp và nhu cầu hợp tác toàn ngành để giải quyết các mối đe dọa này.
Các hành động pháp lý và biện pháp đối phó
Để chống lại hành vi khai thác, Microsoft đã vô hiệu hóa tất cả thông tin xác thực bị đánh cắp và triển khai các biện pháp bảo mật bổ sung để ngăn chặn các hành vi vi phạm tương tự. Công ty cũng đã nhận được lệnh của tòa án để thu giữ các miền. liên quan đến các bị cáo, bao gồm cả “aitism.net”, vốn là trung tâm trong hoạt động của họ.
Các biện pháp này cho phép Đơn vị Tội phạm Kỹ thuật số của Microsoft chuyển hướng thông tin liên lạc từ các miền này đến các môi trường được kiểm soát để điều tra thêm.
Khiếu nại cũng nêu rõ ý định của Microsoft là yêu cầu bồi thường thiệt hại và biện pháp khẩn cấp theo lệnh để loại bỏ các bị cáo’cơ sở hạ tầng. Bằng cách thực hiện hành động pháp lý, công ty đặt mục tiêu thiết lập tiền lệ trong việc giải quyết việc lạm dụng công nghệ AI và buộc những kẻ độc hại phải chịu trách nhiệm.
Ý nghĩa đối với tương lai của bảo mật AI
Vụ việc này minh họa mức độ tinh vi ngày càng tăng của tội phạm mạng khai thác hệ thống AI. Khi AI tổng quát ngày càng được tích hợp nhiều hơn vào các ứng dụng kinh doanh và tiêu dùng, nguy cơ lạm dụng sẽ tăng lên. Sự cố này nhấn mạnh tầm quan trọng của việc liên tục đầu tư vào công nghệ bảo mật và sự cần thiết phải có khuôn khổ pháp lý để giải quyết các mối đe dọa mới nổi.
Bằng cách theo đuổi vụ kiện này, Microsoft không chỉ giải quyết các lỗ hổng trước mắt mà còn củng cố cam kết của mình trong việc phát triển AI có trách nhiệm.
