Hanya beberapa hari selepas melancarkan pelayar Atlas Chatgpt yang bercita-cita tinggi, Openai secara terbuka bergulat dengan kecacatan keselamatan asas yang memberi amaran kepada seluruh kategori AI yang berkuasa. Pelancaran pelayar pada hari Selasa, Ketua Pegawai Keselamatan Maklumat Openai, Dane Stuckey, mengambil X pada hari Rabu untuk menangani kebimbangan yang semakin meningkat. Tersembunyi di laman web boleh menipu ejen AI penyemak imbas untuk melakukan tindakan yang tidak diingini dan berpotensi berbahaya.”… suntikan segera tetap menjadi sempadan, masalah keselamatan yang tidak dapat diselesaikan, dan musuh-musuh kita akan menghabiskan masa dan sumber yang penting untuk mencari cara untuk membuat ejen chatgpt jatuh untuk serangan ini.”
Suntikan segera bukan isu baru atau terpencil. Winbuzzer sebelum ini melaporkan kelemahan yang sama, seperti kecacatan suntikan segera yang tidak dapat ditemui dalam pelayar komet Perplexity pada awal tahun ini.”… suntikan segera tidak langsung bukan isu terpencil, tetapi cabaran sistemik yang dihadapi seluruh kategori pelayar berkuasa AI.”Bahaya teras terletak pada ketidakupayaan ejen AI untuk membezakan antara arahan pengguna dan perintah berniat jahat yang tertanam dalam kandungan yang diproses.
Serangan, di mana kod tersembunyi di laman web boleh secara natutan mengubah papan klip pengguna apabila ejen AI mengklik butang, menyediakan pengguna untuk kemudian menyisipkan perintah jahat tanpa pengetahuan mereka.
href=”https://x.com/p1njc70r/status/1980701879987269866″sasaran=”_ blank”> tertanam dalam dokumen Google atau di laman web . Seperti komet kebingungan yang sudah ada di lapangan. Salah satu pertahanan utama adalah ciri yang dipanggil”Mod Log Out,”yang membolehkan ejen melayari dan bertindak atas nama pengguna tanpa akses kepada kelayakan mereka untuk sesi log masuk. Di Atlas, ejen chatgpt boleh menyelesaikan sesuatu untuk anda. Kami teruja untuk melihat bagaimana ciri ini menjadikan kerja dan kehidupan sehari-hari lebih efisien dan berkesan untuk orang. href=”https://twitter.com/cryps1s/status/1981037851279278414?ref_src=twsrc%5etfw”Target=”_ Blank”href=”https://simonwillison.net/2025/oct/22/openai-ciso-on-atlas/”target=”_ blank”> memanggil ini”sangat pintar”dan corak yang diuji untuk sandboxing AI interaksi Untuk situasi yang memerlukan akses yang disahkan, Openai telah melaksanakan satu lagi perlindungan:
“Apabila ejen beroperasi di tapak sensitif, kami juga telah melaksanakan’mod menonton’yang memberi amaran kepada anda… dan memerlukan anda mempunyai tab yang aktif untuk menonton ejennya. Walau bagaimanapun, syarikat itu tidak memberikan definisi teknikal yang jelas tentang apa yang menjadi”tapak sensitif.”
a laman web),”tetapi menawarkan sedikit lebih terperinci. Ketidaktentuan ini adalah kebimbangan utama.
Willison menyatakan bahawa dalam ujiannya, mod tidak mengaktifkan di laman web seperti GitHub atau bank dalam taliannya, menyimpulkan bahawa mewakilkan keputusan keselamatan kepada pengguna akhir adalah”Ketulusan Openai dan keraguan yang mendalam mengenai penyelesaian yang dicadangkan. sasaran=”_ blank”> menyatakan bahawa ancaman itu berleluasa. Saya
dia memberi amaran bahawa dalam keselamatan aplikasi, hampir sempurna tidak cukup baik. Perang Penyemak Imbas. Berikutan pengumuman itu, stok Alphabet pada mulanya menurun 3%, kehilangan kira-kira $ 18 bilion dalam nilai pasaran, sebelum pulih. Perang Dua Hujung. Di satu bahagian, ia mesti menawarkan produk supaya menarik ia dapat memecahkan pegangan Google pada tabiat pengguna.
Di pihak yang lain, ia mesti merintis keselamatan untuk paradigma pengkomputeran baru yang penuh dengan risiko yang belum pernah terjadi sebelumnya. Memandangkan syarikat itu berfungsi untuk membina kepercayaan pengguna, komuniti keselamatan yang lebih luas akan menonton dan menguji-setiap langkah.