Big Hunter Big Hunter ของ AI ของ Google ได้ระบุและรายงานช่องโหว่ด้านความปลอดภัยใหม่ 20 ช่องในซอฟต์แวร์โอเพนซอร์ซยอดนิยม ความสำเร็จคือ ประกาศ ในวันจันทร์โดย Heather Adkins รองประธานฝ่ายการรักษาความปลอดภัยของ Google ห้องสมุดสื่อ FFMPEG และชุดแก้ไข ImageMagick นี่เป็นเหตุการณ์สำคัญที่สำคัญสำหรับการค้นพบช่องโหว่อัตโนมัติ
การทำงานร่วมกันนั้นเป็นสิ่งสำคัญ Project Zero เป็นทีมนักวิจัยด้านความปลอดภัยของ Google ที่รู้จักกันดีในการค้นหาช่องโหว่ที่มีผลกระทบสูงในขณะที่ DeepMind เป็นแผนกวิจัย AI เรือธง การรวมความคิดด้านความปลอดภัยที่น่ารังเกียจของ Project Zero เข้ากับ AI Prowess ของ DeepMind ให้การนอนหลับที่ยิ่งใหญ่เป็นพิเศษ
จากการค้นหาครั้งแรกจนถึงการค้นหาวิวัฒนาการอย่างรวดเร็วของ Big Sleep การเดินทางของโครงการเริ่มต้นด้วยการพิสูจน์แนวคิดที่โดดเด่นในเดือนพฤศจิกายน 2567 เมื่อการนอนหลับครั้งใหญ่ได้ค้นพบช่องโหว่ครั้งแรกที่ไม่เคยมีมาก่อน: บัฟเฟอร์สแต็กใต้โฟลว์ในเอ็นจิ้นฐานข้อมูล SQLite ที่แพร่หลาย
การค้นพบครั้งแรก เงินเดิมพันได้รับการเลี้ยงดูอย่างมากในเดือนกรกฎาคม 2568 เมื่อ Google เปิดเผยว่า Big Sleep ได้ทำให้เกิดภัยคุกคามที่ใกล้เข้ามาในเชิงรุก
ในกรณีนั้นพบข้อบกพร่อง SQLite ที่สำคัญ CVE-201025-6965 ซึ่งใกล้จะแสวงหาผลประโยชน์ การย้ายครั้งนี้ส่งสัญญาณการเปลี่ยนแปลงที่สำคัญจากการค้นพบข้อผิดพลาดอย่างง่ายไปสู่การป้องกันภัยคุกคามที่นำโดยข่าวกรอง มันเป็นการแข่งขันกับผู้โจมตีและ AI ชนะ
ชุดช่องโหว่ใหม่ 20 ชุด, ลงชื่อเข้าใช้ runsybil บอกกับ techcrunch”ที่ผู้คนกำลังวิ่งเข้ามา ศักยภาพของเทคโนโลยีเมื่อมีการจัดการอย่างเหมาะสม Royal Hansen รองประธานฝ่ายวิศวกรรมของ Google, การค้นพบที่สูงขึ้น
ผลลัพธ์เริ่มต้นจากการวิ่งขนาดใหญ่ของ @google การนอนหลับขนาดใหญ่ที่นี่! ได้รับการแก้ไขแล้ว: https://t.co/9oiaffoatb
-Royal Hansen (@royalhansen) href=”https://twitter.com/royalhansen/status/1952424018663162235?ref_src=twsrc%5Etfw”เป้าหมาย=”blank”> สิงหาคม 2025 Cybersecurity
ผลลัพธ์เริ่มต้นจากการวิ่งขนาดใหญ่ของ @google การนอนหลับขนาดใหญ่ที่นี่! ได้รับการแก้ไขแล้ว: https://t.co/9oiaffoatb
-Royal Hansen (@royalhansen) href=”https://twitter.com/royalhansen/status/1952424018663162235?ref_src=twsrc%5Etfw”เป้าหมาย=”blank”> สิงหาคม 2025 Cybersecurity
ความสำเร็จของ Big Sleep คลี่คลายไปตามฉากหลังของการแข่งขัน AI Arms ที่กว้างขึ้น มันไม่ใช่นักล่าแมลงอัตโนมัติเพียงคนเดียวในสนาม เครื่องมือเช่น Runsybil และ Xbow ยังสร้างพาดหัวด้วย XBow เมื่อเร็ว ๆ นี้ การเพิ่มจำนวนนักแฮ็กเกอร์ ยักษ์ใหญ่ด้านเทคโนโลยีอื่น ๆ กำลังสร้างระบบเสริม ตัวอย่างเช่น Meta ประกาศ AutopatchBench เมื่อเร็ว ๆ นี้เพื่อประเมินว่า AI สามารถแก้ไขข้อบกพร่องได้ดีเพียงใดควบคู่ไปกับ LlamaFirewall ซึ่งเป็นเครื่องมือที่ออกแบบมาเพื่อป้องกันไม่ให้โมเดล AI สร้างรหัสที่ไม่ปลอดภัยตั้งแต่แรก
นวัตกรรมนี้เป็นดาบสองคม โมเดล AI เดียวกันกับที่ใช้สำหรับการป้องกันยังสามารถยืดอายุการใช้งานการเข้ารหัสที่ไม่ปลอดภัย การวิจัยทางวิชาการเมื่อเร็ว ๆ นี้เปิดเผยว่า LLMs จำนวนมากได้รับการฝึกฝนเกี่ยวกับรหัสสาธารณะจาก GitHub ได้เรียนรู้ที่จะทำซ้ำแมลงเก่าปรากฏการณ์ที่ขนานนามว่าปัญหา”LLM ที่เป็นพิษ”
สิ่งนี้สร้างวงจรอุบาทว์ที่เครื่องมือหมายถึงการสร้างอนาคตกำลังสืบทอดข้อผิดพลาดในอดีต ธรรมชาติการใช้งานแบบคู่ของ AI กำลังบังคับให้วิวัฒนาการอย่างรวดเร็วในกลยุทธ์การป้องกันเนื่องจากการโจมตีที่ขับเคลื่อนด้วย AI นั้นมีความซับซ้อนมากขึ้นและมาตรการรักษาความปลอดภัยแบบดั้งเดิมพิสูจน์ได้ว่าไม่เพียงพอ เนื่องจากข้อมูล Mehta ของ NTT ที่ระบุไว้ในบริบทที่เกี่ยวข้อง“ เครื่องมือรักษาความปลอดภัยที่กระจัดกระจายไม่สามารถติดตามการโจมตีอัตโนมัติของวันนี้ได้” ความท้าทายสำหรับ บริษัท อย่าง Google คือการพัฒนาพลังการป้องกันของ AI ต่อไปในขณะที่สร้าง Guardrails เพื่อลดความเสี่ยงใหม่ที่สร้างขึ้น