Keselamatan penyesuaian telah berjaya menaikkan $ 43 juta dalam pembiayaan untuk mempercepatkan kerjanya yang memerangi ancaman siber yang didorong oleh AI, dengan tumpuan khusus untuk mempertahankan terhadap serangan deepfakes dan kejuruteraan sosial.
Andreessen Horowitz (A16Z) , mencerminkan peningkatan yang semakin meningkat bagi perniagaan untuk melabur dalam langkah-langkah keselamatan siber proaktif kerana teknologi AI menjadi lebih canggih dan boleh diakses oleh penjenayah siber. Pelaburan ini datang pada masa yang kritikal, kerana alat AI generatif semakin diperbuat dalam penipuan dalam talian, kecurian identiti, dan skim penipuan. Deepfakes-dengan jelas meyakinkan imej, audio, dan video yang dihasilkan Ai-digunakan untuk menyamar sebagai individu, memanipulasi pendapat umum, dan menipu mangsa ke dalam transaksi penipuan. Kehadiran global Deepfake dalam jenayah siber melonjak dengan ketara pada tahun 2023, menyumbang kepada 7% kes penipuan global, dengan kenaikan sepuluh kali ganda dalam insiden yang dikesan dari tahun sebelumnya. Angka-angka yang membimbangkan ini menyerlahkan kelemahan kedua-dua individu dan perniagaan kepada penipuan berkuasa AI.
Salah satu yang paling berkaitan dengan aspek teknologi DeepFake adalah keupayaannya untuk membolehkan serangan kejuruteraan sosial. Dalam serangan ini, penjenayah siber menyamar sebagai angka yang dipercayai, dengan menggunakan media yang dihasilkan oleh AI yang meyakinkan untuk memanipulasi mangsa. Platform Keselamatan Adaptive direka untuk menangani ancaman yang semakin meningkat ini dengan membantu organisasi mengesan dan meneutralkan serangan ini sebelum menyebabkan kerosakan kewangan atau reputasi.
Penglibatan OpenAI dalam pusingan pembiayaan ini adalah langkah penting dalam menangani risiko yang ditimbulkan oleh penyalahgunaan AI. Dengan menyokong keselamatan adaptif, OpenAI menjajarkan dirinya dengan usaha untuk melindungi terhadap jenayah siber yang didorong oleh AI, satu kawasan yang menjadi kebimbangan yang semakin meningkat bagi syarikat-syarikat teknologi di seluruh dunia. Meter Video Meta, rangka kerja watermarking sumber terbuka, embeds yang tidak kelihatan, pengenalpastian tahan tamper ke dalam video yang dihasilkan AI untuk mengesahkan asalnya.
Penyelesaian META melengkapkan usaha seperti inisiatif Microsoft, yang juga termasuk tindakan undang-undang terhadap penjenayah siber yang mengeksploitasi AI untuk menghasilkan kandungan yang berbahaya, seperti video DeepFake. Video palsu ini direka untuk memanipulasi sasaran untuk mendedahkan maklumat sensitif. Tuntutan ini menggariskan kekerapan yang semakin meningkat dari ancaman keselamatan siber yang berkaitan dengan AI dan keperluan untuk perniagaan mengadopsi pertahanan yang mantap terhadap serangan tersebut. Platform Copilot Keselamatan Microsoft, misalnya, baru-baru ini telah berkembang untuk memasukkan ejen AI yang mengotomatisasi pengesanan phishing, pengurusan kelemahan, dan perlindungan identiti. Ejen AI ini adalah sebahagian daripada trend yang lebih luas di mana syarikat-syarikat memanfaatkan AI bukan sahaja untuk bertindak balas terhadap cyberattacks tetapi juga untuk menjangkakan dan mengurangkan risiko yang berpotensi.
Platform syarikat itu bertujuan untuk mengajar pekerja bagaimana mengenali ancaman berkuasa AI sebelum menyebabkan kerugian besar. Pendekatan proaktif ini penting kerana teknologi AI seperti Deepfake terus berkembang dan menjadi lebih sukar untuk mengesan.
Menurut Microsoft, integrasi AI ke dalam alat keselamatannya telah menunjukkan hasil yang menjanjikan dalam menemui kelemahan dalam sistem asas. Penemuan-penemuan ini-seperti kelemahan yang terdapat dalam pemuat boot yang berpotensi dieksploitasi-menyoroti keperluan alat yang didorong oleh AI untuk mengenal pasti risiko yang boleh diabaikan oleh Cyber. Platform ini menggunakan pengesanan berasaskan AI untuk mengenal pasti corak dengan cepat yang dapat menunjukkan pelanggaran yang berpotensi, yang membolehkan syarikat bertindak balas dengan segera. Lonjakan global dalam jenayah siber AI yang didorong oleh AI, dari Asia Tenggara ke Eropah, telah menimbulkan penggera mengenai jangkauan dan kecanggihan ancaman ini. Di Asia Tenggara sahaja, penjenayah siber mengeksploitasi teknologi AI untuk melakukan penipuan yang berjumlah $ 37 bilion pada tahun 2023. Pada tahun 2024, Europol memberi amaran bahawa kandungan yang dihasilkan oleh AI adalah rumit untuk memerangi jenayah terancang, dengan menyatakan peningkatan penggunaan AI untuk eksploitasi kanak-kanak dan penipuan kewangan. Ini menonjolkan keperluan untuk tindakan bersatu di seluruh industri teknologi untuk memastikan teknologi AI digunakan secara bertanggungjawab, sementara juga mempertahankan mereka yang berusaha untuk mengeksploitasi mereka untuk tujuan yang berniat jahat. Serangan Ai-Generated. Dengan sokongan Openai, keselamatan adaptif diposisikan untuk memimpin pertuduhan dalam memerangi ancaman yang muncul ini. Platform syarikat, yang mensimulasikan serangan Deepfake dan melatih pekerja untuk mengiktiraf ancaman AI yang didorong oleh AI, merupakan bahagian penting masa depan keselamatan siber. Untuk terus mendahului risiko ini, perniagaan perlu melabur dalam alat keselamatan siber yang boleh menyesuaikan diri dengan ancaman baru dan baru muncul. Kerjasama antara OpenAI dan Keselamatan Adaptif adalah satu langkah ke arah yang betul, tetapi penting bagi industri untuk terus berinovasi dan bekerjasama untuk menangani landskap ancaman yang cepat berkembang. Memandangkan syarikat-syarikat seperti Keselamatan Adaptive Ramp untuk mengatasi ancaman ini, ia menjadi jelas bahawa strategi pertahanan yang pelbagai, AI-didorong oleh AI akan menjadi penting untuk melindungi terhadap generasi baru jenayah siber. Memandangkan teknologi AI terus berkembang dengan pesat, perniagaan perlu tetap tangkas, mengamalkan langkah-langkah keselamatan baru dan terus menyempurnakan pertahanan mereka untuk mengikuti ancaman. Kerjasama antara syarikat-syarikat AI dan pemula keselamatan siber adalah penting dalam membangunkan mekanisme pertahanan yang lebih canggih dan proaktif, memastikan bahawa perniagaan bukan sahaja dapat bertindak balas tetapi juga menjangkakan taktik yang semakin canggih yang digunakan oleh penjenayah siber. Walau bagaimanapun, dengan potensi AI untuk baik dan bahaya, jelas bahawa pertempuran untuk keselamatan digital baru sahaja bermula. Seperti yang kita lihat ke hadapan, kunci akan memastikan bahawa teknologi yang sama mendorong inovasi juga boleh dimanfaatkan dengan berkesan untuk melindungi terhadap gelombang yang semakin meningkat dari jenayah siber AI.