Anthropic mendedahkan Khamis bahawa penggodam yang ditaja oleh negara China mengatur kempen pengintipan siber yang canggih pada pertengahan bulan September dengan senjata model claude ai.
kes cyberattack berskala besar yang didorong oleh ejen AI, yang mewakili peningkatan yang ketara dari penggodaman AI-Assist yang terdahulu. boleh melaksanakan kerja seluruh pasukan, secara dramatik meningkatkan kelajuan dan skala operasi yang ditaja oleh negara. yang dikeluarkan oleh ARTHORDEAL. Sekarang, mereka menggunakan agen autonomi sepenuhnya untuk melakukan pencerobohan kompleks dari awal hingga akhir. Pasukan perisikan ancaman Anthropic telah menetapkan kumpulan GTG-1002 yang ditaja oleh kerajaan. Dalam model itu, manusia tetap tegas dalam mengawal operasi.
Laporan Anthropic mengesahkan kempen September adalah sangat berbeza:
Dianggarkan hanya 10 hingga 20 peratus daripada jumlah usaha. Cyberattack dilaksanakan tanpa campur tangan manusia yang besar.”Target=”_ blank”> AI ejen merampas kadar kejayaan melompat secara dramatik . Protokol Konteks Model (MCP) untuk menguraikan serangan kompleks ke dalam satu siri tugas yang diskret, seolah-olah jinak. MCP, yang direka untuk membiarkan model AI menggunakan alat luaran, dengan berkesan menjadi sistem saraf pusat untuk operasi. Risiko Seperti’suntikan konteks,’di mana tingkah laku ejen boleh dimanipulasi.
Elemen penting serangan itu melangkaui ciri-ciri keselamatan terbina dalam Claude. Para penggodam mencapai ini melalui teknik jailbreak yang pandai yang berakar umbi dalam kejuruteraan sosial. mencetuskan guardrail etika terasnya.
Kaedah ini membenarkan pelakon ancaman terbang di bawah radar cukup lama untuk melancarkan kempen mereka. Ia bermula dengan peninjauan untuk memetakan infrastruktur sasaran dan mengenal pasti kelemahan.
Menurut A Interaksi Manusia.”
Dilema dwi-guna: agentik AI untuk kedua-dua kesalahan dan pertahanan
pendedahan antropik memaksa perhitungan dengan sifat guna AI lanjutan. Keupayaan yang sama yang membolehkan AI menyerang secara autonomi rangkaian adalah tidak ternilai untuk mempertahankannya.
Pakar-pakar keselamatan mencatatkan bahawa Agentic AI telah digunakan di Pusat Operasi Keselamatan (SOCS) untuk mengautomasikan pengesanan dan tindak balas ancaman, seperti Palo Alto Rangkaian yang baru-baru ini melancarkan platform Cortex.
Jumlah data yang dihasilkan semasa penyiasatannya terhadap insiden itu, yang menonjolkan utiliti pertahanan teknologi.
Pada akhirnya, syarikat itu berpendapat bahawa pelaburan yang berterusan dalam keupayaan AI adalah penting untuk membina pertahanan siber yang akan datang. Alat, memberi amaran bahawa risiko pembela melampaui jika mereka tidak merangkul teknologi yang sama. berkembang pada kadar yang lebih cepat untuk mengelakkan penyalahgunaan yang meluas.