Penelitian baru telah memberikan sorotan pada kerentanan keamanan yang signifikan dalam kopilot Microsoft untuk SharePoint, menunjukkan bagaimana agen yang digerakkan AI dapat dimanipulasi oleh penyerang untuk menggali informasi perusahaan yang peka, menghindari protokol keamanan, dan beroperasi dengan berkurangnya kemungkinan deteksi. The findings, published on May 7, 2025, by cybersecurity firm Pen Test Partners, highlight an urgent concern for enterprises: the very AI tools designed to boost productivity can, if not meticulously Diamankan, memperkenalkan risiko exfiltrasi data baru dan kuat.
Inti dari kerentanan terletak pada kerentanan agen AI terhadap dorongan menipu. Mitra uji pena merinci bagaimana agen default, yang merupakan asisten AI pra-dibangun Microsoft yang diaktifkan ketika sebuah organisasi melisensikan microsoft 365 copilot, dapat diubah menjadi alat pengumpulan intelijen yang canggih untuk aktor jahat.
“Copilot for SharePoint adalah Jawaban Microsoft untuk Bantuan Generatif AI pada SharePoint,”Copilot untuk Mitra SharePoint. Para peneliti mengilustrasikan ini dengan berhasil menggunakan prompt yang dibuat dengan cermat, di mana penyerang berpose sebagai anggota tim keamanan internal, untuk memaksa agen untuk memindai dan mengungkapkan data sensitif seperti kata sandi dan kunci pribadi.
Agen memuaskan, mengungkapkan informasi, termasuk kata sandi, yang kemudian dapat dengan mudah disalin dari antarmuka obrolan copilot. Perusahaan mencatat bahwa mekanisme yang tepat di balik bypass ini tunduk pada penyelidikan yang sedang berlangsung.
Kapasitas ini untuk operasi siluman ini menghadirkan keuntungan yang cukup besar bagi penyerang.”Penyerang akan mencari untuk mengeksploitasi apa pun yang bisa mereka dapatkan”, para peneliti menulis.
Laporan ini menunjukkan bahwa banyak organisasi, termasuk mereka yang memiliki postur keamanan yang matang, mungkin belum memantau agen AI baru ini untuk tanda-tanda aktivitas jahat di luar metrik penggunaan dasar. “Kontrol dan penebangan Anda saat ini mungkin tidak mencukupi”, perusahaan memperingatkan.
Selanjutnya, penelitian memperingatkan bahwa agen khusus, yang dapat dikembangkan dan dilatih oleh organisasi yang menggunakan alat seperti Copilot Studio, dapat memperkenalkan risiko tambahan. Sifat risiko-risiko ini akan tergantung pada konfigurasi spesifik mereka dan kumpulan data yang dilatih, berpotensi memungkinkan penyerang untuk mengakses data di beberapa situs atau bahkan merusak basis pengetahuan agen.
Microsoft Ecosystem dan pengukiran tata kelola
p> revelation AI. Dalam rilis Microsoft 365 Copilot Wave 2 Spring pada bulan April, perusahaan memperkenalkan agen khusus baru dan toko agen, bersama dengan copilot”> copilot-2-pring-re/4405503″
Pembaruan CCS Microsoft dirancang untuk melengkapi departemen TI dengan alat yang lebih baik untuk mengelola keamanan, biaya, dan penyebaran ekosistem AI yang sedang berkembang. This includes forthcoming features like “Apps and agents in Data Security Posture Management for AI”within Microsoft Purview, anticipated for public preview around June 2025.
Microsoft had previously rolled out SharePoint AI agents in November 2024, envisioned to interact with site-specific data, as Microsoft stated, “new SharePoint AI agents interact with site-specific data” Menurut Microsoft untuk membantu dengan tugas-tugas seperti karyawan onboarding dan manajemen proyek dengan menarik informasi dari Situs Sharric. dari Microsoft Syntex. Sebelumnya, pada bulan April 2025, Microsoft juga mempratinjau fitur”Penggunaan Komputer”di Copilot Studio, memungkinkan agen AI untuk berinteraksi dengan desktop dan GUI aplikasi web. Pada saat itu, Charles Lamanna, seorang wakil presiden perusahaan Microsoft, menegaskan, “Jika seseorang dapat menggunakan aplikasi tersebut, agen tersebut juga dapat.”.
Kekhawatiran industri yang lebih luas dan strategi perlindungan
Potensi penyalahgunaan agen AI yang semakin mandiri adalah kekhawatiran yang berkembang di seluruh industri teknologi. The rapid adoption of agentic AI is evident, with a recent Cloudera report highlighted by CIO Dive revealing that 96% of surveyed IT leaders plan to expand AI agent use, though Mereka juga menyerukan privasi dan keamanan data yang lebih kuat.
Abhas Ricky, chief strategy officer Cloudera, berkomentar,”Agen AI menjadi pusat perhatian, membangun momentum AI generatif tetapi dengan dampak operasional yang lebih besar.”Tren ini selanjutnya digarisbawahi oleh
Research from Zenity also points to risks like prompt injection and Remote Copilot Execution (RCE) in AI agents, emphasizing that “Recent discoveries, such as Zenity Labs’ Penelitian tentang Eksekusi Copilot Jarak Jauh (RCE) dalam agen AI seperti Microsoft 365 Copilot, menyoroti pentingnya pemantauan yang kuat untuk mengidentifikasi dan mengurangi vektor eksploitasi potensial.”.
Sementara Microsoft sedang mengembangkan perlindungan administratif seperti pengamatan CC dan agen. Secara historis, SharePoint telah menjadi target yang sering, dengan CISA mengeluarkan peringatan tentang kerentanan yang dieksploitasi secara aktif di server SharePoint.
Untuk melawan risiko agen AI yang baru diidentifikasi, PENTRIK PENT PENDERIRAN PRACKSI PLACE PLACE PLACE PLACE PLACE, atau PENCEPATAN PEMPERJAAN KOLEKSI Data Place. Membatasi penciptaan agen baru, mengamanatkan persetujuan untuk penyebarannya, dan memanfaatkan Alat pemantauan Microsoft sendiri untuk melacak aktivitas agen dan file. Microsoft sendiri menyediakan bimbingan. Pesan inti dari para peneliti adalah pengingat yang jelas:”Berhati-hatilah dengan apa yang Anda simpan di platform seperti SharePoint.”.
