Nagsampa ang Microsoft ng pederal na kaso laban sa isang hindi kilalang grupo ng mga cybercriminal na inakusahan ng paggamit ng mga ninakaw na API key upang i-bypass ang mga protocol ng kaligtasan sa Azure OpenAI Service nito.
Ayon sa reklamo nagsampa sa U.S. District Court para sa Eastern District of Virginia, ang grupo, na tinutukoy bilang Does 1–10, ay di-umano’y binuo at ipinamahagi mga tool para pagsamantalahan ang mga system ng Microsoft at bumuo ng mapaminsalang nilalaman na lumalabag sa mga patakaran nito.
Kabilang sa mga legal na claim ang mga paglabag sa Computer Fraud and Abuse Act (CFAA), ang Digital Millennium Copyright Act (DMCA), at ang Racketeer Influenced and Corrupt Organizations (RICO) Act.
Sinasabi ng tech giant na ang grupo ay nagpapatakbo ng isang sopistikadong pamamaraan ng pag-hack, pagkakitaan ang hindi awtorisadong pag-access sa Azure OpenAI Service sa pamamagitan ng pamamahagi ng custom na software, kabilang ang isang client-side application na kilala bilang “de3u”at isang reverse proxy system na pinangalanang “oai baligtarin ang proxy.”
Ang mga tool na ito ay nagbigay-daan sa mga user na samantalahin ang mga ninakaw na kredensyal at iwasan ang mga advanced na hakbang sa seguridad ng Microsoft.
Kaugnay: Pinutol ng Microsoft ang Azure OpenAI Access para sa mga Chinese Developers
Nagsimula ang pagsisiyasat ng Microsoft noong Hulyo 2024 nang matuklasan nito na ang mga API key—mga natatanging identifier na nagpapatotoo sa mga kahilingan ng user—na inisyu upang maging lehitimo. Ang mga customer ng Azure OpenAI ay ginagamit upang ma-access ang mga system nito nang walang pahintulot.
Sinunton ng kumpanya ang aktibidad sa isang coordinated operation na nagta-target ng maraming customer, kabilang ang ilang kumpanyang nakabase sa U.S..
“Ang tumpak na paraan kung saan nakuha ng mga Defendant ang lahat ng API Keys na ginamit upang dalhin ang maling pag-uugali na inilarawan sa Reklamo na ito ay hindi alam,”sinabi ng Microsoft sa paghahain nito,”ngunit lumilitaw na ang mga Nasasakdal ay nasangkot sa isang pattern ng sistematikong pagnanakaw ng API Key na nagbigay-daan sa kanila na nakawin ang Microsoft API Mga susi mula sa maraming customer ng Microsoft.”
Kaugnay: Ang AI-Driven Cyberattacks ay Umakyat sa Mahigit 600 Milyong Pang-araw-araw na Insidente
Mga Tool na Ginamit sa Scheme
Ginawa umano ng mga nasasakdal ang de3u software upang mapadali ang hindi awtorisadong paggamit ng Azure OpenAI Service. Ang tool na ito ay nagbigay ng user-friendly na interface para sa pagbuo ng mga imahe sa pamamagitan ng OpenAI’s DALL-E model.
Nakipag-ugnayan ito sa mga system ng Azure sa pamamagitan ng paggaya sa mga lehitimong kahilingan sa API, pagsasamantala sa mga ninakaw na kredensyal upang i-bypass ang mga built-in na safeguard. Ang reverse proxy system ay higit na nagpagana sa pang-aabusong ito sa pamamagitan ng pag-rerouting ng hindi awtorisadong trapiko sa pamamagitan ng Cloudflare tunnels, na nakakubli sa mga aktibidad at naging dahilan upang mas mahirap matukoy ang mga ito.
Ang reklamo ng Microsoft ay naglalarawan ng mga tool nang detalyado: “Nakikipag-ugnayan ang de3u application ng mga defendant sa Azure mga computer na gumagamit ng mga undocumented na Microsoft network API upang magpadala ng mga kahilingang idinisenyo upang gayahin ang mga lehitimong kahilingan ng Azure OpenAI Service API. Ang oai reverse proxy system ay nagbigay-daan sa mga user na iruta ang mga komunikasyon sa pamamagitan ng Cloudflare tunnels papunta sa mga Azure system at makatanggap ng mga output na lumampas sa mga paghihigpit sa kaligtasan.”
Kasama rin sa mga tool ang mga feature upang alisin ang metadata mula sa nilalamang binuo ng AI, na pumipigil sa pagkakakilanlan ng ang pinagmulan nito at higit na nagbibigay-daan sa maling paggamit
Kasunod ng pagtuklas ng Microsoft, ang mga nasasakdal ay iniulat na sinubukang tanggalin ang mga pangunahing imprastraktura, kabilang ang mga pahina ng Rentry.org, ang GitHub repository para sa de3u, at mga elemento ng reverse proxy system.
Mas Malawak na Konteksto at Mga Implikasyon sa Malawak na Industriya
Ang demanda ay dumarating sa oras na ang generative AI ang mga teknolohiya ay nasa ilalim ng mas mataas na pagsisiyasat para sa kanilang potensyal na maling paggamit. Binago ng mga tool tulad ng DALL-E at ChatGPT ng OpenAI ang paglikha ng nilalaman ngunit pinagsamantalahan din para sa disinformation, pagbuo ng malware, at. mapaminsalang koleksyon ng imahe.
Ang legal na aksyon ng Microsoft ay binibigyang-diin ang patuloy na mga hamon na kinakaharap ng mga tagapagbigay ng AI sa pagprotekta sa kanilang mga system.
Binigyang-diin ng Microsoft na ang mga hakbang sa seguridad na isinama sa Azure OpenAI Service ay matatag, na gumagamit ng neural multi-class classification models at metadata protections. Ang mga system na ito ay idinisenyo upang harangan ang mapaminsalang nilalaman at i-trace ang mga output na binuo ng AI sa kanilang mga pinagmulan.
Gayunpaman, tulad ng ipinapakita ng kasong ito, kahit na ang pinaka-advanced na mga pag-iingat ay maaaring iwasan ng mga determinadong aktor.”Sa kabila ng iba’t ibang pagpapagaan ng kaligtasan ng Microsoft at OpenAI, ang mga sopistikadong masamang aktor ay nakagawa ng mga paraan upang makakuha ng labag sa batas na pag-access sa mga system ng Microsoft,”ang tala ng reklamo.
Ang grupong tina-target ng Microsoft ay maaaring hindi nakahiwalay sa mga aktibidad nito. Ang kumpanya ay nagsasaad na ang parehong mga aktor ay malamang na pinagsamantalahan ang iba pang mga tagapagbigay ng serbisyo ng AI, na nagpapakita ng mas malawak na takbo ng pang-aabuso sa espasyo ng AI mga kahinaan ng mga generative na teknolohiya ng AI at ang pangangailangan para sa buong industriya na pakikipagtulungan upang matugunan ang mga banta na ito.
Mga Legal na Aksyon at Countermeasures
Upang labanan ang pagsasamantala, mayroon ang Microsoft pinawalang-bisa ang lahat ng ninakaw na kredensyal at nagpatupad ng mga karagdagang hakbang sa seguridad upang maiwasan ang mga katulad na paglabag”aiism.net,”na naging sentro ng kanilang mga operasyon.
Pinapayagan ng mga hakbang na ito ang Digital Crimes Unit ng Microsoft na i-redirect ang mga komunikasyon mula sa mga domain na ito patungo sa mga kontroladong kapaligiran para sa karagdagang pagsisiyasat.
Ibinabalangkas din ng reklamo ang layunin ng Microsoft na humingi ng mga pinsala at injunctive relief para buwagin ang mga nasasakdal.’imprastraktura. Sa pamamagitan ng pagsasagawa ng legal na aksyon, nilalayon ng kumpanya na magtakda ng precedent para sa pagtugon sa maling paggamit ng mga teknolohiya ng AI at pagpapanagot sa mga malisyosong aktor.
Mga Implikasyon para sa Kinabukasan ng AI Security
Inilalarawan ng kaso ang lumalagong pagiging sopistikado ng mga cybercriminal na nagsasamantala sa mga AI system. Habang nagiging mas pinagsama ang generative AI sa mga application ng negosyo at consumer, lumalawak ang mga panganib ng maling paggamit. Itinatampok ng insidenteng ito ang kahalagahan ng patuloy na pamumuhunan sa mga teknolohiya sa seguridad at ang pangangailangan para sa mga legal na balangkas upang matugunan ang mga umuusbong na banta.
Sa pamamagitan ng paghahabol sa demanda na ito, hindi lamang tinutugunan ng Microsoft ang mga agarang kahinaan ngunit pinalalakas din nito ang pangako nito sa responsableng pagpapaunlad ng AI.
