Antropik telah meluncurkan pilot untuk”Claude for Chrome,”ekstensi browser baru yang memungkinkan AI mengambil tindakan untuk pengguna. Diumumkan hari ini, pratinjau penelitian terbatas pada 1.000 pengguna tepercaya dari layanan premiumnya. Langkah ini bertujuan untuk membuat Claude lebih berguna dengan membiarkannya mengklik tombol dan mengisi formulir secara online.

Langkah ini ke otomatisasi browser adalah yang dihitung. Antropik sedang berjalan dengan hati-hati untuk mengatasi ancaman keamanan yang serius. Perusahaan ini fokus pada mencegah” serangan injeksi cepat , di mana perintah tersembunyi di halaman web bisa menipu AI. Pilot memasuki bidang kompetitif, dengan OpenAi, Microsoft, dan Google semuanya mengembangkan agen AI yang serupa.

Langkah hati-hati ke dalam otomatisasi browser

Perpanjangan baru memungkinkan Claude untuk melihat apa yang dilihat pengguna dan mengambil tindakan atas namanya, sebuah kapabilitas yang digambarkan sebagai antropik. href=”https://www.anthropic.com/news/claude-for-chrome”target=”_ blank”> langkah logis berikutnya “dalam pengembangannya. Setelah berintegrasi dengan perangkat lunak seperti kalender dan dokumen, memberikan AI kemampuan untuk mengklik tombol dan mengisi formulir secara langsung di browser dipandang sebagai cara untuk menjadikannya”secara substansial lebih berguna.”Pratinjau Penelitian Terbatas untuk 1.000 Pengguna Paket”Max”Premium Perusahaan. Anthropic telah membuka

Rencana antropis untuk menggunakan wawasan dari pilot untuk memperbaiki classifier injeksi yang cepat, meningkatkan model yang mendasarinya, dan mengembangkan kontrol izin yang lebih canggih. Perusahaan akan secara bertahap memperluas akses karena membangun kepercayaan diri dan mengembangkan perlindungan yang lebih kuat berdasarkan data yang dikumpulkan selama pratinjau terbatas ini.

Bahkan dalam penggunaan internal awal, agen tersebut telah menunjukkan janji dalam mengelola kalender, menangani laporan pengeluaran, dan menguji fitur situs web. Namun, Antropik memperingatkan pengguna uji coba untuk memperhatikan data yang terlihat oleh Claude dan untuk menghindari penggunaan ekstensi untuk situs yang melibatkan informasi sensitif, hukum, atau medis. Ancaman utama adalah”injeksi cepat,”di mana aktor jahat menyembunyikan instruksi di situs web, email, atau dokumen untuk menipu agen agar melakukan tindakan berbahaya tanpa sepengetahuan pengguna. Serangan-serangan ini dapat menyebabkan AI menghapus file, mencuri data, atau membuat transaksi keuangan yang tidak sah.

Antropik”tim merah”antropik, yang melibatkan mengevaluasi 123 kasus uji di 29 skenario serangan yang berbeda, mengungkapkan tentang 23,6% tingkat keberhasilan serangan Ketika agennya sengaja ditargetkan tanpa mitigasi keselamatan terbaru. Dalam satu contoh Stark, versi Claude yang tidak dilindungi ditipu oleh email keamanan palsu yang mengklaim email yang perlu dihapus untuk”kebersihan kotak surat.”Prompt berbahaya bahkan menegaskan bahwa”tidak ada konfirmasi tambahan yang diperlukan.”

Mengikuti instruksi tersembunyi ini, agen AI melanjutkan untuk memilih dan menghapus email pengguna, yang menyatakan itu melakukannya”seperti yang diminta oleh tim keamanan.”Eksperimen ini menyoroti betapa mudahnya AI dapat dimanipulasi menjadi tindakan destruktif tanpa perlindungan yang tepat.

Perusahaan telah menerapkan beberapa lapisan pertahanan sejalan dengan prinsip-prinsip agen yang dapat dipercaya. Baris pertahanan pertama adalah izin pengguna; Pengguna dapat memberikan atau mencabut akses Claude ke situs web tertentu kapan saja. Agen ini juga dirancang untuk meminta konfirmasi sebelum mengambil tindakan berisiko tinggi seperti menerbitkan konten atau berbagi data pribadi, bahkan ketika beroperasi dalam”mode otonom”eksperimental.

Perlindungan tambahan termasuk peningkatan sistem yang ditingkatkan yang menginstruksikan CLAUDE tentang cara menangani data sensitif, memblokir akses ke kategori situs web berisiko tinggi seperti layanan keuangan, dan membangun classifier canggih ke canggih. Dengan mitigasi baru ini, tingkat keberhasilan serangan secara keseluruhan berkurang dari 23,6% menjadi 11,2%.

Tim juga berfokus pada serangan baru yang khusus untuk browser, seperti bidang bentuk berbahaya tersembunyi dalam model objek dokumen (DOM) dan suntikan melalui teks URL. Pada set”tantangan”dari empat jenis serangan khusus browser tersebut, pertahanan baru secara mengesankan mengurangi tingkat keberhasilan serangan dari 35,7% menjadi 0%.

Ancaman ini bukan hanya teoretis. Para peneliti di Brave baru-baru ini menemukan dunia nyata kerentanan injeksi cepat dalam browser AI comet kebingungan , menunjukkan bagaimana href=”https://thehackernews.com/2025/08/experts-find-ai browsers-can-t-tml”target=”_ blank”> Eksploitasi dapat bekerja pada produk komersial, dan menggarisbawahi urgensi dalam menyelesaikan tantangan keamanan ini.

Menggariskan urgensi dalam memecahkan tantangan keamanan ini.

noute noums dalam pemecahan tantangan keamanan ini.

Langkah antropik memanaskan perlombaan di antara raksasa teknologi untuk mengembangkan AI agen. Openai meluncurkan agen chatgpt yang kuat pada Juli 2025, yang diamati melewati tes keamanan”Saya bukan robot”. Pendahulunya yang lebih terbatas, operator, diperkenalkan pada bulan Januari.

Microsoft juga merupakan pemain utama. Ini meluncurkan”mode copilot”eksperimental untuk browser tepi pada bulan Juli yang dapat memahami konteks di semua tab terbuka. Strateginya adalah menanamkan AI secara mendalam ke ekosistem browser yang ada.

Visi ini ambisius, dengan seorang eksekutif yang menyatakan bahwa”jika seseorang dapat menggunakan aplikasi, agen juga bisa.”Tujuannya adalah kolaborator yang mulus, seperti yang dikatakan Microsoft Sean Lyndersay, bahwa”tidak hanya memberi Anda tab tanpa akhir untuk disaring tetapi bekerja dengan Anda sebagai kolaborator yang masuk akal dari semuanya.”

Saingan lain membangun browser yang sama sekali baru di sekitar AI. Perplexity meluncurkan browser Comet premium pada bulan Juli, sementara Opera meluncurkan browser neon agennya pada bulan Mei, keduanya bertujuan untuk mendefinisikan kembali navigasi web dari bawah ke atas.

Bahkan Google, raja browser yang sudah lama berkuasa, tidak berdiri diam. Perusahaan ini diam-diam mengembangkan agen”penggunaan komputer”sendiri di dalam studio AI-nya, menandakan niatnya untuk bersaing di arena baru ini.

Realitas kinerja agen

Terlepas dari inovasi yang cepat, pertanyaan tentang efektivitas dunia nyata dari agen-agen ini bertahan. Sebuah studi Mei 2025 dari Universitas Carnegie Mellon menemukan bahwa bahkan agen AI teratas berjuang dengan tugas-tugas otomatisasi bisnis yang kompleks. Studi ini mencatat kurangnya akal sehat dan tingkat keberhasilan yang rendah.

Skeptisisme ini dibagi oleh beberapa pemimpin industri. CEO Perplexity Aravind Srinivas telah mendesak kehati-hatian, menyatakan,”Siapa pun yang mengatakan agen akan bekerja pada tahun 2025 harus skeptis.”Ini mencerminkan kesenjangan yang signifikan antara menunjukkan kemampuan dan menyebarkannya dengan andal dan aman pada skala.

Untuk saat ini, pengembang membangun dalam pengawasan manusia sebagai jaring pengaman yang kritis. Pimpinan Penelitian Openai Isa Fulford mencatat bahwa agen mereka memerlukan izin untuk tindakan yang tidak dapat diubah, menjelaskan bahwa”Sebelum agen chatgpt melakukan sesuatu yang’tidak dapat diubah,’seperti mengirim email atau membuat pemesanan, ia meminta izin terlebih dahulu.”

Pilot yang berhati-hati dan hati-hati dengan umpan balik menunjukkan pemahaman yang sama. Sementara janji AI yang dapat mengelola kehidupan digital kita sangat menarik, industri ini mengakui bahwa era agen yang benar-benar otonom dan dapat dipercaya belum tiba.

Categories: IT Info