Microsoft telah mengumumkan pembaruan terencana pada platform Microsoft Purview miliknya, yang bertujuan untuk mengatasi meningkatnya kekhawatiran atas ancaman keamanan siber yang didorong oleh AI. Pembaruan, dijadwalkan untuk pratinjau pada bulan Juli 2024 dan ketersediaan umum pada bulan September 2024, menandakan pengakuan Microsoft terhadap AI sebagai potensi risiko keamanan yang memerlukan kontrol ketat.
Memahami Penggunaan AI yang Berisiko
Istilah “berisiko Penggunaan AI”mencakup aktivitas yang disengaja dan tidak disengaja yang dapat membahayakan keamanan organisasi. Hal ini mencakup pembuatan data dari file atau situs sensitif, dan penggunaan AI untuk membuat perintah atau respons yang berisi informasi sensitif. Pembaruan Microsoft Purview yang akan datang bertujuan untuk memperluas cakupannya tidak hanya pada Microsoft Copilot tetapi juga aplikasi AI generatif pihak ketiga, sehingga meningkatkan kemampuan platform untuk secara otomatis mendeteksi ancaman cyber terkait AI seperti pencurian kekayaan intelektual, kebocoran data, dan pelanggaran keamanan.
Fitur yang Disempurnakan dan Privasi Pengguna
Pembaruan Microsoft Purview dirancang untuk mendukung manajemen risiko internal dengan memungkinkan administrator mengidentifikasi penggunaan AI yang berisiko dalam organisasi mereka. Platform ini akan menggabungkan kemampuan deteksi baru untuk aktivitas risiko orang dalam yang disengaja dan tidak disengaja terkait dengan aplikasi AI generatif.
Perkembangan ini terjadi setelah laporan yang dirilis oleh Microsoft, bekerja sama dengan OpenAI, yang menyoroti penggunaan AI oleh pelaku kejahatan dari negara-negara seperti Rusia, Iran, Tiongkok, dan Korea Utara akan melancarkan serangan cyber. Para mitra berhasil menetralisir ancaman yang ditimbulkan oleh lima kelompok peretas yang diyakini disponsori oleh negara. Entitas-entitas ini telah mengeksploitasi model bahasa besar (LLM) OpenAI untuk mendukung aktivitas siber mereka, sehingga menandai kemajuan signifikan dalam penggunaan AI generatif untuk serangan siber.
Selain itu, Microsoft menekankan pendekatan privasi berdasarkan desain Purview, memastikan bahwa pengguna menggunakan nama samaran secara default dan kontrol akses berbasis peran serta log audit diterapkan untuk menjaga privasi pengguna. Pembaruan ini juga bertujuan untuk menyederhanakan berbagai proses, seperti orientasi perangkat baru dan mengakses solusi keamanan data, tata kelola, dan kepatuhan melalui portal terpadu.
