Microsoft ได้ยื่นฟ้องรัฐบาลกลางต่อกลุ่มอาชญากรไซเบอร์ที่ไม่ปรากฏชื่อ ซึ่งถูกกล่าวหาว่าใช้คีย์ API ที่ถูกขโมยเพื่อหลีกเลี่ยงโปรโตคอลความปลอดภัยในบริการ Azure OpenAI
ตามข้อร้องเรียน ยื่นต่อศาลแขวงสหรัฐประจำเขตตะวันออกของรัฐเวอร์จิเนีย กลุ่มนี้เรียกว่า Dos 1–10 ซึ่งถูกกล่าวหาว่าพัฒนาและจัดจำหน่าย เครื่องมือในการใช้ประโยชน์จากระบบของ Microsoft และสร้างเนื้อหาที่เป็นอันตรายซึ่งละเมิดนโยบาย
การเรียกร้องทางกฎหมายรวมถึงการละเมิด คอมพิวเตอร์ พระราชบัญญัติการฉ้อโกงและการละเมิด (CFAA), พระราชบัญญัติ Digital Millennium Copyright (DMCA) และ พระราชบัญญัติองค์กรแร็กเก็ตที่ได้รับอิทธิพลและทุจริต (RICO)
ยักษ์ใหญ่ด้านเทคโนโลยีกล่าวหาว่ากลุ่มดังกล่าวดำเนินโครงการแฮ็กที่ซับซ้อน สร้างรายได้จากการเข้าถึงบริการ Azure OpenAI โดยไม่ได้รับอนุญาตโดยการแจกจ่ายซอฟต์แวร์ที่กำหนดเอง รวมถึงแอปพลิเคชันฝั่งไคลเอ็นต์ที่เรียกว่า”de3u”และระบบพร็อกซีย้อนกลับชื่อ”oai Reverse proxy”
เครื่องมือเหล่านี้ทำให้ผู้ใช้สามารถใช้ประโยชน์จากข้อมูลประจำตัวที่ถูกขโมยและหลีกเลี่ยงมาตรการรักษาความปลอดภัยขั้นสูงของ Microsoft
ที่เกี่ยวข้อง: Microsoft ตัดการเข้าถึง Azure OpenAI สำหรับนักพัฒนาชาวจีน
การสืบสวนของ Microsoft เริ่มขึ้นในเดือนกรกฎาคม 2024 เมื่อพบว่าคีย์ API ซึ่งเป็นตัวระบุที่ไม่ซ้ำกันซึ่งตรวจสอบคำขอของผู้ใช้ ซึ่งออกให้กับลูกค้า Azure OpenAI ที่ถูกต้องตามกฎหมายนั้นถูกใช้เพื่อเข้าถึงระบบโดยไม่ได้รับอนุญาต
บริษัทติดตามกิจกรรมดังกล่าวไปยังการดำเนินการประสานงานที่มีเป้าหมายเป็นลูกค้าหลายราย รวมถึงบริษัทที่อยู่ในสหรัฐฯ หลายแห่ง
“ลักษณะที่ชัดเจนที่จำเลยได้รับคีย์ API ทั้งหมดที่ใช้ในการพกพา เนื่องจากไม่ทราบถึงการประพฤติมิชอบที่อธิบายไว้ในคำร้องเรียนนี้”Microsoft ระบุในการยื่นฟ้อง”แต่ดูเหมือนว่าจำเลยมีส่วนร่วมในรูปแบบของการขโมยคีย์ API อย่างเป็นระบบ ซึ่งทำให้พวกเขาสามารถขโมยคีย์ Microsoft API จากลูกค้า Microsoft หลายราย”
ที่เกี่ยวข้อง: การโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI พุ่งสูงถึงกว่า 600 ล้านเหตุการณ์รายวัน
เครื่องมือที่ใช้ในโครงการ
จำเลยถูกกล่าวหาว่าสร้างซอฟต์แวร์ de3u เพื่ออำนวยความสะดวกในการใช้บริการ Azure OpenAI โดยไม่ได้รับอนุญาต เครื่องมือนี้มีอินเทอร์เฟซที่ใช้งานง่ายสำหรับการสร้างภาพผ่านโมเดล DALL-E ของ OpenAI
มันสื่อสารกับระบบของ Azure โดยเลียนแบบคำขอ API ที่ถูกต้องตามกฎหมาย โดยใช้ประโยชน์จากข้อมูลประจำตัวที่ถูกขโมยเพื่อหลีกเลี่ยงการป้องกันในตัว ระบบพร็อกซีย้อนกลับยังเปิดใช้งานการละเมิดนี้เพิ่มเติมโดยเปลี่ยนเส้นทางการรับส่งข้อมูลที่ไม่ได้รับอนุญาตผ่านอุโมงค์ Cloudflare ซึ่งปิดบังกิจกรรมและทำให้ตรวจจับได้ยากขึ้น
การร้องเรียนของ Microsoft อธิบายเครื่องมือโดยละเอียด: “แอปพลิเคชัน de3u ของจำเลยสื่อสารกับ Azure คอมพิวเตอร์ที่ใช้ API เครือข่าย Microsoft ที่ไม่มีเอกสารเพื่อส่งคำขอที่ออกแบบมาเพื่อเลียนแบบคำขอ Azure OpenAI Service API ที่ถูกต้องตามกฎหมาย ระบบพร็อกซีย้อนกลับของ oai ช่วยให้ผู้ใช้สามารถกำหนดเส้นทางการสื่อสารผ่านอุโมงค์ Cloudflare ไปยังระบบ Azure และรับเอาต์พุตที่ข้ามข้อจำกัดด้านความปลอดภัย”
เครื่องมือยังรวมคุณสมบัติในการดึงข้อมูลเมตาออกจากเนื้อหาที่สร้างโดย AI เพื่อป้องกันการระบุตัวตนของ ต้นกำเนิดและการเปิดใช้งานในทางที่ผิดเพิ่มเติม
หลังจากการค้นพบของ Microsoft มีรายงานว่าจำเลยพยายามที่จะลบโครงสร้างพื้นฐานที่สำคัญ รวมถึงหน้า Rentry.org พื้นที่เก็บข้อมูล GitHub สำหรับ de3u และองค์ประกอบของระบบพร็อกซีย้อนกลับ
บริบทที่กว้างขึ้นและผลกระทบทั่วทั้งอุตสาหกรรม
คดีนี้เกิดขึ้นในเวลาที่เทคโนโลยี AI กำเนิดอยู่ภายใต้การตรวจสอบข้อเท็จจริงที่เพิ่มมากขึ้น สำหรับการใช้ในทางที่ผิดที่อาจเกิดขึ้น เครื่องมือเช่น DALL-E และ ChatGPT ของ OpenAI ได้เปลี่ยนแปลงการสร้างเนื้อหา แต่ยังถูกนำไปใช้เพื่อการบิดเบือนข้อมูล การพัฒนามัลแวร์ และภาพที่เป็นอันตราย
ถูกกฎหมายของ Microsoft การดำเนินการเน้นย้ำถึงความท้าทายอย่างต่อเนื่องที่ผู้ให้บริการ AI ต้องเผชิญในการปกป้องระบบของตน
Microsoft เน้นย้ำว่ามาตรการรักษาความปลอดภัยที่รวมอยู่ในบริการ Azure OpenAI นั้นแข็งแกร่ง โดยใช้โมเดลการจำแนกประเภทหลายคลาสของระบบประสาทและการปกป้องเมตาดาต้า ระบบเหล่านี้ได้รับการออกแบบมาเพื่อบล็อกเนื้อหาที่เป็นอันตรายและติดตามเอาต์พุตที่สร้างโดย AI ไปยังแหล่งที่มา
อย่างไรก็ตาม ดังที่กรณีนี้แสดงให้เห็น แม้แต่การป้องกันขั้นสูงสุดก็สามารถหลีกเลี่ยงได้โดยผู้มีบทบาทที่มุ่งมั่น “แม้จะมีการบรรเทาความปลอดภัยต่างๆ ของ Microsoft และ OpenAI แต่ผู้ไม่ประสงค์ดีที่ซับซ้อนได้คิดค้นวิธีการเพื่อรับการเข้าถึงระบบของ Microsoft อย่างผิดกฎหมาย” บันทึกการร้องเรียน
กลุ่มที่เป็นเป้าหมายโดย Microsoft อาจไม่ถูกแยกออกจากกิจกรรมของบริษัท อ้างว่านักแสดงคนเดียวกันมีแนวโน้มที่จะเอาเปรียบผู้ให้บริการ AI รายอื่น ซึ่งสะท้อนถึงแนวโน้มการละเมิดในวงกว้างมากขึ้นในพื้นที่ AI สิ่งนี้เน้นย้ำถึงช่องโหว่ของระบบของเทคโนโลยี generative AI และความต้องการ สำหรับการทำงานร่วมกันทั่วทั้งอุตสาหกรรมเพื่อจัดการกับภัยคุกคามเหล่านี้
การดำเนินการทางกฎหมายและมาตรการตอบโต้
เพื่อต่อสู้กับการแสวงหาผลประโยชน์ Microsoft ได้ทำให้ข้อมูลประจำตัวที่ถูกขโมยทั้งหมดเป็นโมฆะและดำเนินการรักษาความปลอดภัยเพิ่มเติม มาตรการป้องกันการละเมิดที่คล้ายกัน บริษัทยังได้รับคำสั่งศาลให้ยึดโดเมนที่เกี่ยวข้องกับจำเลย ซึ่งรวมถึง “aitism.net” ซึ่งเป็นศูนย์กลางการดำเนินงานของพวกเขา
มาตรการเหล่านี้อนุญาตให้หน่วยอาชญากรรมดิจิทัลของ Microsoft เปลี่ยนเส้นทางการสื่อสารจากโดเมนเหล่านี้ไปยังสภาพแวดล้อมที่มีการควบคุมเพื่อการสอบสวนเพิ่มเติม
การร้องเรียนยังระบุถึงเจตนาของ Microsoft ที่จะแสวงหาความเสียหายและการบรรเทาทุกข์ตามคำสั่งห้ามเพื่อรื้อถอนจำเลย’โครงสร้างพื้นฐาน. บริษัทมีเป้าหมายที่จะสร้างแบบอย่างในการแก้ไขปัญหาการใช้เทคโนโลยี AI ในทางที่ผิด และรับผิดชอบต่อผู้ไม่ประสงค์ดี
ผลกระทบต่ออนาคตของความปลอดภัยของ AI
กรณีนี้แสดงให้เห็นถึงความซับซ้อนที่เพิ่มขึ้นของอาชญากรไซเบอร์ที่ใช้ประโยชน์จากระบบ AI เมื่อ Generative AI บูรณาการเข้ากับแอปพลิเคชันทางธุรกิจและผู้บริโภคมากขึ้น ความเสี่ยงจากการใช้งานในทางที่ผิดก็เพิ่มมากขึ้น เหตุการณ์นี้เน้นย้ำถึงความสำคัญของการลงทุนอย่างต่อเนื่องในเทคโนโลยีความปลอดภัย และความจำเป็นสำหรับกรอบกฎหมายเพื่อจัดการกับภัยคุกคามที่เกิดขึ้นใหม่
การดำเนินคดีนี้ Microsoft ไม่เพียงแต่จัดการกับช่องโหว่ที่เกิดขึ้นในทันทีเท่านั้น แต่ยังตอกย้ำความมุ่งมั่นในการพัฒนา AI อย่างมีความรับผิดชอบ
