Microsoft telah memfailkan saman persekutuan terhadap kumpulan penjenayah siber yang tidak dikenali yang dituduh menggunakan kunci API yang dicuri untuk memintas protokol keselamatan dalam Perkhidmatan OpenAI Azurenya.
Menurut aduan difailkan di Mahkamah Daerah A.S. untuk Daerah Timur Virginia, kumpulan itu, yang dirujuk sebagai Adakah 1–10, didakwa dibangunkan dan diedarkan alat untuk mengeksploitasi sistem Microsoft dan menjana kandungan berbahaya yang melanggar dasarnya.
Tuntutan undang-undang termasuk pelanggaran Komputer Akta Penipuan dan Penyalahgunaan (CFAA), Digital Millennium Copyright Act (DMCA) dan Racketeer Influenced and Corrupt Organizations (RICO) Act.
Gergasi teknologi itu mendakwa bahawa kumpulan itu mengendalikan skim penggodaman yang canggih, mengewangkan akses tanpa kebenaran kepada Perkhidmatan Azure OpenAI dengan mengedarkan perisian tersuai, termasuk aplikasi sisi klien yang dikenali sebagai”de3u”dan sistem proksi terbalik bernama”oai proksi terbalik.”
Alat ini membolehkan pengguna mengeksploitasi bukti kelayakan yang dicuri dan memintas langkah keselamatan lanjutan Microsoft.
Berkaitan: Microsoft Potong Akses Azure OpenAI untuk Pembangun Cina
Penyiasatan Microsoft bermula pada Julai 2024 apabila ia mendapati bahawa kunci API—pengecam unik yang mengesahkan permintaan pengguna—dikeluarkan kepada sah Pelanggan Azure OpenAI telah digunakan untuk mengakses sistemnya tanpa kebenaran.
Syarikat mengesan aktiviti tersebut kepada operasi yang diselaraskan yang menyasarkan berbilang pelanggan, termasuk beberapa syarikat yang berpangkalan di A.S..
“Cara yang tepat di mana Defendan memperoleh semua Kunci API yang digunakan untuk membawa salah laku yang diterangkan dalam Aduan ini tidak diketahui,”Microsoft menyatakan dalam pemfailannya,”tetapi nampaknya Defendan telah terlibat dalam corak kecurian API Key sistematik yang membolehkan mereka mencuri Microsoft API Kunci daripada berbilang pelanggan Microsoft.”
Berkaitan: Serangan Siber Didorong AI Melonjak kepada Lebih 600 Juta Insiden Harian
Alat yang Digunakan dalam Skim
Defendan didakwa mencipta perisian de3u untuk memudahkan penggunaan Perkhidmatan Azure OpenAI tanpa kebenaran. Alat ini menyediakan antara muka mesra pengguna untuk menjana imej melalui model DALL-E OpenAI.
Ia berkomunikasi dengan sistem Azure dengan meniru permintaan API yang sah, mengeksploitasi kelayakan yang dicuri untuk memintas perlindungan terbina dalam. Sistem proksi terbalik seterusnya membolehkan penyalahgunaan ini dengan mengubah laluan lalu lintas tanpa kebenaran melalui terowong Cloudflare, yang mengaburkan aktiviti dan menjadikannya lebih sukar untuk dikesan.
Aduan Microsoft menerangkan alat secara terperinci:”Aplikasi de3u Defendant berkomunikasi dengan Azure komputer menggunakan API rangkaian Microsoft tanpa dokumen untuk menghantar permintaan yang direka bentuk untuk meniru permintaan API Azure OpenAI Service yang sah. Sistem proksi terbalik oai membolehkan pengguna menghalakan komunikasi melalui terowong Cloudflare ke dalam sistem Azure dan menerima output yang melangkaui sekatan keselamatan.”
Alat itu turut menyertakan ciri untuk menanggalkan metadata daripada kandungan yang dijana AI, menghalang pengenalpastian asal-usulnya dan seterusnya membolehkan penyalahgunaan
Berikutan penemuan Microsoft, defendan dilaporkan cuba memadamkan infrastruktur utama, termasuk halaman Rentry.org, Repositori GitHub untuk de3u dan elemen sistem proksi terbalik.
Konteks Lebih Luas dan Implikasi Seluruh Industri
Tuntutan undang-undang datang pada masa AI generatif teknologi berada di bawah pengawasan yang lebih tinggi untuk potensi penyalahgunaannya seperti DALL-E dan ChatGPT OpenAI telah mengubah penciptaan kandungan tetapi juga telah dieksploitasi untuk maklumat salah, pembangunan perisian hasad dan. imejan berbahaya.
Tindakan undang-undang Microsoft menggariskan cabaran berterusan yang dihadapi oleh penyedia AI dalam melindungi sistem mereka.
Microsoft telah menekankan bahawa langkah keselamatan yang disepadukan ke dalam Perkhidmatan Azure OpenAI adalah teguh, menggunakan saraf model klasifikasi berbilang kelas dan perlindungan metadata. Sistem ini direka bentuk untuk menyekat kandungan berbahaya dan mengesan output yang dijana AI ke sumbernya.
Walau bagaimanapun, seperti yang ditunjukkan oleh kes ini, perlindungan yang paling maju pun boleh dielakkan oleh pelakon yang ditentukan.”Walaupun Microsoft dan OpenAI mempunyai pelbagai mitigasi keselamatan, pelakon jahat yang canggih telah mencipta cara untuk mendapatkan akses yang menyalahi undang-undang kepada sistem Microsoft,”nota aduan itu.
Kumpulan yang disasarkan oleh Microsoft mungkin tidak terpencil dalam aktivitinya. Syarikat itu mendakwa bahawa pelakon yang sama berkemungkinan telah mengeksploitasi penyedia perkhidmatan AI yang lain, mencerminkan trend penyalahgunaan yang lebih luas dalam ruang AI Ini menyerlahkan sistemik kelemahan teknologi AI generatif dan keperluan untuk kerjasama seluruh industri untuk menangani ancaman ini.
Tindakan Undang-undang dan Tindakan Balas
Untuk memerangi eksploitasi, Microsoft telah membatalkan semua bukti kelayakan yang dicuri dan melaksanakan langkah keselamatan tambahan untuk mencegah pelanggaran serupa Syarikat itu juga memperoleh perintah mahkamah untuk merampas domain yang dikaitkan dengan defendan, termasuk”aitism.net,”yang merupakan pusat kepada operasi mereka.
Langkah-langkah ini membolehkan Unit Jenayah Digital Microsoft mengubah hala komunikasi daripada domain ini ke persekitaran terkawal untuk siasatan lanjut.
Aduan itu juga menggariskan hasrat Microsoft untuk mendapatkan ganti rugi dan pelepasan injunksi untuk membongkar defendan.’infrastruktur. Dengan mengambil tindakan undang-undang, syarikat itu menyasarkan untuk menetapkan duluan untuk menangani penyalahgunaan teknologi AI dan memastikan pelakon yang berniat jahat bertanggungjawab.
Implikasi untuk Masa Depan Keselamatan AI
Kes ini menggambarkan peningkatan kecanggihan penjenayah siber yang mengeksploitasi sistem AI. Apabila AI generatif menjadi lebih bersepadu ke dalam aplikasi perniagaan dan pengguna, risiko penyalahgunaan berkembang. Insiden ini menyerlahkan kepentingan pelaburan berterusan dalam teknologi keselamatan dan keperluan untuk rangka kerja undang-undang untuk menangani ancaman yang muncul.
Dengan meneruskan tuntutan mahkamah ini, Microsoft bukan sahaja menangani kelemahan serta-merta tetapi juga mengukuhkan komitmennya terhadap pembangunan AI yang bertanggungjawab.
