Google enggan membetulkan kelemahan”penyeludupan ASCII”kritikal di Gemini AI, meninggalkan pengguna yang terdedah kepada serangan tersembunyi. Penyelidik keselamatan di Firetail yang ditemui penyerang boleh menggunakan aksara Unicode yang tidak kelihatan untuk membenamkan arahan berniat jahat dalam teks.
Walaupun pengguna melihat mesej yang tidak berbahaya, Gemini melaksanakan arahan tersembunyi. Kesilapan ini amat berbahaya di Google Workspace, di mana ia membolehkan spoofing identiti automatik dalam jemputan kalendar dan e-mel.
Walaupun pesaing seperti OpenAI dan Microsoft menambal isu serupa, Google menolak laporan itu. Syarikat itu mengklasifikasikannya sebagai kejuruteraan sosial, bukan pepijat keselamatan. Keputusan ini memaksa perusahaan untuk mempertahankan diri mereka terhadap ancaman yang diketahui dan tidak diiktiraf.
Serangan itu, teknik yang dikenali sebagai penyeludupan ASCII, berakar pada pandai Unicode technical standard , pelaksanaan sepenuhnya tag-unaware akan memaparkan sebarang urutan watak tag sebagai tidak dapat dilihat. Ini mewujudkan penyamaran yang sempurna untuk penyerang.
Walaupun pengguna manusia hanya melihat teks yang tidak bersalah dan kelihatan, aliran data mentah yang mendasari mengandungi muatan yang berniat jahat yang terselip di dalam watak-watak yang tidak dicetak ini. Tidak seperti antara muka pengguna, pra-pemproses input LLM direka untuk menelan rentetan mentah, termasuk setiap watak, untuk menyokong piawaian antarabangsa. Teknik ini membolehkan penyerang menambahkan teks ASCII sewenang-wenang ke emoji atau watak-watak lain, dengan berkesan menyeludup rahsia yang melepasi mana-mana pengulas manusia.
Hasilnya adalah kecacatan logik aplikasi kritikal. LLM menelan input mentah, tidak dipercayai dan melaksanakan perintah tersembunyi, sementara pengguna manusia, hanya melihat versi yang dibersihkan di UI, tetap tidak menyedari manipulasi. Spoofing kepada Keracunan Data
Implikasi untuk sistem AI AIS adalah teruk. Penyelidik Firetail Viktor Markopoulos menunjukkan bagaimana penyerang boleh menghantar jemputan kalendar Google dengan muatan tersembunyi. Muatan ini boleh Risiko dikuatkan untuk pengguna yang menyambungkan LLM ke peti masuk e-mel mereka. Seperti yang dijelaskan oleh Markopoulos,”Bagi pengguna dengan LLMS yang disambungkan ke peti masuk mereka, e-mel mudah dengan arahan tersembunyi boleh mengarahkan LLM untuk mencari peti masuk untuk item sensitif atau menghantar butiran hubungan, mengubah percubaan phishing standard ke dalam alat pengekstrakan yang lebih berbahaya. Pendirian vs. Industri
Penyiasatan Firetail telah mendedahkan perpecahan yang jelas dalam kesediaan industri. Walaupun Google Gemini, Grok Xai, dan Deepseek semua didapati terdedah, pemain utama lain tidak. Model dari Openai, Microsoft, dan Anthropic nampaknya telah melaksanakan sanitisasi input yang mengurangkan ancaman. Selepas Markopoulos melaporkan penemuan kepada Google pada 18 September, syarikat itu menolak isu tersebut. Ia berhujah serangan itu bergantung pada kejuruteraan sosial, pendirian yang telah membuat kritikan untuk menurunkan eksploitasi teknikal pada terasnya. Kedudukan ini berbeza dengan gergasi teknologi lain. Sebagai contoh, Amazon telah menerbitkan panduan keselamatan terperinci mengenai mempertahankan penyeludupan watak Unicode, mengakui ia sebagai vektor ancaman yang sah. Penolakan Google untuk bertindak meninggalkan pelanggan perusahaannya dalam kedudukan yang tidak menentu. Tanpa patch yang akan datang, organisasi yang menggunakan Gemini dalam Google Workspace kini dengan sengaja terdedah kepada kaedah keracunan data yang canggih dan spoofing identiti.
