Openai telah mengambil tindakan tegas terhadap ancaman siber yang ditaja oleh negara, mengharamkan pelbagai akaun yang dikaitkan dengan pelakon di China dan Korea Utara. Dalam laporan ancaman yang dikeluarkan pada 8 Oktober, syarikat itu mendedahkan kumpulan-kumpulan ini menggunakan model AI untuk merangka cadangan untuk alat pengawasan, membangunkan kempen phishing, dan membantu dalam penciptaan malware. Operasi, Openai mengekalkan perlindungannya berjaya menyekat permintaan langsung untuk kod jahat dan bahawa
href=”https://cdn.openai.com/threat-intelligence-reports/7d662b68-952f-4dfd-a2f2-fe55b041cc4a/disrupting-maliialic-ses-s-s-s-skober-2025.pdf kepada kerajaan autoritarian. Pelakon yang berkaitan dengan Cina ditangkap menggunakan CHATGPT untuk merekabentuk sistem pemantauan media sosial berskala besar. Satu cadangan yang membimbangkan yang bertujuan untuk mewujudkan”model amaran aliran masuk yang berkaitan dengan berisiko tinggi”untuk menjejaki perjalanan individu yang disasarkan. Aktiviti ini merupakan usaha yang jelas untuk menggunakan teknologi canggih untuk pengawasan dan penindasan perbezaan pendapat, menurut penemuan syarikat.
Mereka memanfaatkan chatgpt untuk menyelidik teknik phishing, kecurian kredensial, dan pembangunan malware, dengan tumpuan khusus pada macOS Apple. Pertanyaan mereka melibatkan debugging kod berniat jahat dan meneroka strategi kejuruteraan sosial.
A’zon kelabu’penyalahgunaan: Kecekapan atas kebaruan
Begitu juga, kumpulan phishing yang berkaitan dengan China menggunakan AI untuk mencari kecekapan tambahan. Kelebihan utama yang diperolehnya adalah dari”linguistik linguistik, penyetempatan, dan kegigihan.”Ini diterjemahkan ke dalam menghasilkan e-mel dengan kesilapan bahasa yang lebih sedikit, mewujudkan”kod gam yang lebih cepat,”dan membuat pelarasan lebih cepat apabila serangan awal mereka gagal.
Matlamat utama adalah kelajuan dan skala. Bagi pelakon ini, kejayaan bermakna menghasilkan e-mel phishing yang sedia ada dan mencapai”kitaran lelaran yang dipendekkan untuk kod rutin dan automasi.”Tumpuan ini untuk menambah tradisi tradisional, dan bukannya mencipta bentuk serangan baru, adalah penemuan utama penyiasatan OpenAI.
Sepanjang operasi ini, Openai menegaskan bahawa perlindungannya secara konsisten memegang teguh terhadap ancaman langsung. Laporan itu menyatakan modelnya”secara konsisten menolak permintaan berniat jahat secara konsisten.”Dalam kes pemaju malware yang berbahasa Rusia, sistem ini secara khusus menafikan permintaan langsung untuk eksploitasi dan keyloggers.
Walau bagaimanapun, pelakon ancaman menyesuaikan diri. Laporan ini menyoroti contoh”penyesuaian dan penyebaran,”di mana pengguna berniat jahat mengubah tingkah laku mereka untuk mengelakkan pengesanan. Sesetengah rangkaian penipuan, menyedari perbincangan dalam talian mengenai corak teks AI-dihasilkan, khususnya mengarahkan model untuk menghapuskan EM-dashes untuk membuat output kelihatan lebih manusia.
Dinamik ini menggambarkan cabaran utama untuk platform AI. Menurut Openai. Pertahanan yang berkesan memerlukan”pendekatan yang bernuansa dan bermaklumat yang memberi tumpuan kepada corak tingkah laku pelakon ancaman dan bukannya interaksi model terpencil.”Membezakan pertanyaan pengekodan jinak dari satu yang dimaksudkan untuk memperbaiki malware adalah barisan depan baru dalam keselamatan platform.