Hampir seminggu selepas Google melancarkan antigraviti, persekitaran pembangunan bersepadu”ejen-pertama”yang bersepadu (IDE), penyelidik keselamatan telah menunjukkan bagaimana autonomi alat itu boleh menjadi senjata. Mengeksploitasi tetapan lalai antigraviti. Dengan menyembunyikan arahan dalam font 1-point
Penemuan ini menyerlahkan jurang kritikal antara pemasaran model”penalaran”dan realiti postur keselamatan lalai mereka. Penyerang menyembunyikan suntikan segera dalam fon 1-titik di sumber, menjadikannya tidak dapat dilihat oleh pemaju manusia tetapi dibaca dengan model Gemini. Gemini dengan betul mengenalpasti bahawa sasaran. Berikutan”penalaran”penyerang, ia mengelakkan sekatan baca dengan melaksanakan perintah kucing sistem di terminal untuk membuang kandungan fail ke output standard. Laporan PromptArmor menerangkan mekanisme:
“Gemini memutuskan untuk bekerja di sekitar perlindungan ini menggunakan perintah terminal’kucing’untuk membuang kandungan fail dan bukannya menggunakan keupayaan bacaan fail terbina dalam yang telah disekat.”Seperti yang dinyatakan oleh Analisis Keselamatan,”Gemini memintas tetapannya sendiri untuk mendapatkan akses dan seterusnya mengeluarkan data tersebut.”
Setelah mengakses kelayakan, ejen itu mengkodekan data yang dicuri ke dalam rentetan URL. PromptArmor meringkaskan rantaian serangan penuh:
“… sumber web beracun (panduan integrasi) boleh memanipulasi Gemini ke (a) mengumpul kelayakan dan kod sensitif dari ruang kerja pengguna, dan (b) mengeluarkan data pelayar ke atas. meminta perkhidmatan pembalakan. Exfiltration hanya boleh dilakukan kerana webhook.site tidak dapat dijelaskan dimasukkan ke dalam
Promptarmor menyimpang dari tetingkap pendedahan bertanggungjawab 90 hari standard untuk penemuan ini. Membenarkan keputusan ini, firma itu memetik klasifikasi terdahulu Google mengenai laporan yang sama sebagai”tingkah laku yang dimaksudkan”dan bukannya kelemahan keselamatan. Alat. Dokumentasi rasmi menyokong penilaian PromptArmor mengenai dasar Google. Platform pemburu bug Google secara eksplisit menyenaraikan”ejen antigraviti mempunyai akses kepada fail”dan”kebenaran untuk melaksanakan perintah”sebagai tidak sah . Dasar rasmi menyatakan: “Ejen antigraviti mempunyai akses kepada fail”[…]”ejen antigraviti mempunyai kebenaran untuk melaksanakan perintah” Penyelidik menyokong risiko. Penyelidik Keselamatan’Wunderwuzzi23′(merangkul merah) yang dikenal pasti