OpenAI đã thực hiện hành động quyết đoán chống lại các mối đe dọa mạng do nhà nước bảo trợ, cấm nhiều tài khoản có liên quan đến các tác nhân ở Trung Quốc và Triều Tiên. Trong một báo cáo về mối đe dọa được công bố vào ngày 8 tháng 10, công ty tiết lộ rằng các nhóm này đã sử dụng mô hình AI của mình để soạn thảo đề xuất về các công cụ giám sát, phát triển các chiến dịch lừa đảo và hỗ trợ tạo phần mềm độc hại.
Động thái này nhấn mạnh một mặt trận đang gia tăng trong cuộc chiến tranh lạnh AI, trong đó OpenAI đang tích cực hoạt động để ngăn chặn công nghệ của họ bị các chế độ độc tài sử dụng làm vũ khí.
Trong khi các tác nhân tìm cách tăng cường các hoạt động mạng hiện có của họ, OpenAI duy trì các biện pháp bảo vệ đã chặn thành công các yêu cầu trực tiếp về mã độc và không có khả năng mới nào được cung cấp.
Những kẻ được nhà nước hậu thuẫn khai thác AI để giám sát và lừa đảo
báo cáo nêu chi tiết về mô hình sử dụng sai mục đích của các thực thể gắn liền với các chính quyền độc tài. Các đối tượng có liên hệ với Trung Quốc đã bị phát hiện sử dụng ChatGPT để thiết kế hệ thống giám sát mạng xã hội quy mô lớn. Một đề xuất đáng báo động nhằm tạo ra “Mô hình cảnh báo dòng tiền đổ vào liên quan đến người Duy Ngô Nhĩ có rủi ro cao”để theo dõi việc di chuyển của các cá nhân bị nhắm mục tiêu.
Các tài khoản khác có liên quan đến Trung Quốc đã sử dụng AI để thu thập thông tin tình báo nguồn mở, cố gắng xác định những người chỉ trích chính phủ và tìm nguồn tài trợ của họ. Theo phát hiện của công ty, hoạt động này thể hiện nỗ lực rõ ràng trong việc sử dụng công nghệ tiên tiến để giám sát nhà nước và trấn áp những người bất đồng chính kiến.
Trong khi đó, các nhà khai thác Triều Tiên tập trung vào các chiến thuật tội phạm mạng truyền thống hơn. Họ tận dụng ChatGPT để nghiên cứu các kỹ thuật lừa đảo, đánh cắp thông tin xác thực và phát triển phần mềm độc hại, đặc biệt tập trung vào macOS của Apple. Các truy vấn của họ liên quan đến việc gỡ lỗi mã độc và khám phá các chiến lược kỹ thuật xã hội.
Một’Vùng xám’về lạm dụng: Hiệu quả hơn là mới lạ
Cuộc điều tra của OpenAI cho thấy một cái nhìn sâu sắc quan trọng về tình trạng tội phạm mạng được AI hỗ trợ hiện nay: các chủ thể nhà nước không phát triển siêu vũ khí mới. Thay vào đó, báo cáo nhấn mạnh mối đe dọa đó Các tác nhân đang”xây dựng AI vào quy trình công việc hiện có của họ, thay vì xây dựng quy trình công việc mới xung quanh AI.”
Công ty không tìm thấy bằng chứng nào cho thấy các mô hình của họ cung cấp cho kẻ tấn công chiến thuật mới hoặc khả năng tấn công mà chúng không thể có được ở nơi khác.
Cách tiếp cận này thường hoạt động trong cái mà OpenAI gọi là”vùng xám”của hoạt động sử dụng kép. Một phần đáng kể của hành vi sử dụng có mục đích xấu liên quan đến lời nhắc thực hiện các tác vụ dường như vô hại như dịch văn bản, sửa đổi mã hoặc tạo trang web.
Những yêu cầu này chỉ trở nên đe dọa dựa trên ngữ cảnh và mục đích của người dùng, đặt ra thách thức phát hiện phức tạp.
Ví dụ: Các nhà khai thác ngôn ngữ Hàn Quốc đã đưa ra nhiều yêu cầu có thể liên quan đến các ứng dụng hợp pháp như gỡ lỗi phần mềm hoặc phát triển trình duyệt. Tuy nhiên, như báo cáo lưu ý, những hoạt động này “có ý nghĩa khác khi bị kẻ đe dọa tái sử dụng”. Mục tiêu không phải là phát minh mà là tăng tốc các hoạt động mạng hiện có.
Tương tự, nhóm lừa đảo có liên kết với Trung Quốc đã sử dụng AI để tăng cường hiệu quả. Lợi thế chính mà họ đạt được là từ “sự thông thạo ngôn ngữ, khả năng bản địa hóa và tính kiên trì”. Điều này chuyển thành việc tạo ra các email có ít lỗi ngôn ngữ hơn, tạo ra “mã kết dính nhanh hơn” và thực hiện các điều chỉnh nhanh hơn khi các cuộc tấn công ban đầu của họ thất bại.
Mục tiêu cuối cùng là tốc độ và quy mô. Đối với những kẻ này, thành công có nghĩa là tạo ra các email lừa đảo sẵn sàng để gửi và đạt được “chu kỳ lặp lại được rút ngắn cho mã thông thường và tự động hóa”. Việc tập trung vào việc tăng cường các hoạt động thương mại truyền thống, thay vì tạo ra các hình thức tấn công mới, là phát hiện chính của cuộc điều tra OpenAI.
Trong suốt các hoạt động này, OpenAI nhấn mạnh rằng các biện pháp bảo vệ của họ luôn được giữ vững trước các mối đe dọa trực tiếp. Báo cáo cho biết các mô hình của nó “liên tục từ chối các yêu cầu độc hại hoàn toàn.” Trong trường hợp một nhà phát triển phần mềm độc hại nói tiếng Nga, hệ thống đặc biệt từ chối các yêu cầu trực tiếp về việc khai thác và ghi lại thao tác bàn phím.
Tuy nhiên, các tác nhân đe dọa đang thích nghi. Báo cáo nêu bật các trường hợp “thích ứng và làm xáo trộn”, trong đó những người dùng độc hại thay đổi hành vi của họ để tránh bị phát hiện. Một số mạng lừa đảo nhận thức được các cuộc thảo luận trực tuyến về mẫu văn bản do AI tạo ra, đã hướng dẫn cụ thể cho mô hình loại bỏ dấu gạch ngang để làm cho đầu ra trông giống con người hơn.
Động thái này minh họa thách thức cốt lõi đối với nền tảng AI. Theo OpenAI. Việc phòng thủ hiệu quả đòi hỏi một “cách tiếp cận có sắc thái và đầy đủ thông tin, tập trung vào các mô hình hành vi của tác nhân đe dọa thay vì các tương tác mô hình riêng biệt”. Việc phân biệt truy vấn mã hóa vô hại với truy vấn nhằm tinh chỉnh phần mềm độc hại là tiền tuyến mới trong bảo mật nền tảng.
