Anthropic推出了一個“ Claude for Chrome”的飛行員，這是一種新的瀏覽器擴展程序，可讓其AI為用戶採取行動。今天宣布的研究預覽僅限於1,000名值得信賴的高級服務用戶。此舉旨在通過允許其單擊按鈕並在線填充表單來使Claude更有用。
這一步是計算出的。擬人化正在謹慎努力應對嚴重的安全威脅。該公司專注於防止“ 提示注射攻擊，在網頁上隱藏的命令可能會欺騙AI。飛行員進入了一個競爭領域，OpenAI，Microsoft和Google都開發了類似的AI代理。
謹慎的一步邁出了瀏覽器自動化
新的擴展使克勞德（Claude）允許用戶看到和採取什麼行動，並在他們的角度看待和採取什麼行動href=“ https://www.anththropic.com/news/claude-for-chrome” target=“ _ blank”>下一個邏輯步驟“在其開發中”。在與日曆和文檔之類的軟件集成後，使AI可以將單擊按鈕並直接填充瀏覽器中的表格視為一種使其“實質上更有用”的一種方式。研究預覽限制為公司保費“ Max”計劃的1,000名用戶。擬人化已打開A cr. for Trive forne forne forne forkial forkial forkial fornial forkial fornem nool nool thing thing thing thing，
公司強調，內部測試無法複製人們如何在現實世界中瀏覽的全部複雜性。飛行員對於了解用戶提出的獨特請求，他們訪問的網站以及惡意內容在實踐中的表現是必要的，這對於構建可靠的安全措施至關重要。
[嵌入式內容]
人類計劃使用飛行員的見解來使用PILOT的見解來完善其及時的壓力分類器，並改善其潛在的模型，並開發出更複雜的Perermisition Contraperied Contraperied Servericed Contraperied Servericed Servericed Serciented Sercientions Perrissiced Serificed Serificed Sercientions。該公司將根據此限量預覽期間收集的數據來建立信心並開發更強的保障措施，並逐漸擴大訪問權限。
即使在早期內部使用中，代理也顯示了管理日曆，處理費用報告和測試網站功能的承諾。 However, Anthropic is cautioning pilot users to be mindful of the data visible to Claude and to avoid using the extension for sites involving sensitive financial, legal, or medical information.
The Specter of Prompt Injection
Browser-using AI introduces formidable risks that Anthropic is addressing with explicit caution.主要威脅是“及時注射”，惡意演員將說明隱藏在網站，電子郵件或文檔中，以欺騙代理商在沒有用戶知識的情況下執行有害行動。這些攻擊可能會導致AI刪除文件，竊取數據或進行未經授權的財務交易。
Anthropic的內部“紅色團隊”，其中涉及在29個不同的攻擊方案中評估123個測試用例，揭示了一個有關 23.6％的攻擊成功率當其代理人被故意針對而沒有最新的安全性緩解時。在一個鮮明的示例中，克勞德（Claude）的一個不受保護的版本被一封虛假的安全電子郵件欺騙，聲稱需要刪除“郵箱衛生”的電子郵件。惡意提示甚至斷言“不需要其他確認。”
按照以下隱藏說明，AI代理繼續選擇和刪除用戶的電子郵件，並指出這樣做“按照安全團隊的要求”。該實驗強調了在沒有適當保護措施的情況下，可以將AI輕鬆地操縱為破壞性行為。
該公司此後已根據其可信賴的代理原理實施了幾層防禦。第一道防線是用戶權限；用戶可以隨時授予或撤銷Claude訪問特定網站的訪問。該代理商還旨在在採取高風險動作（例如發佈內容或共享個人數據）之前要求確認，即使在實驗性的“自主模式”中運行。通過這些新的緩解，總體攻擊成功率從23.6％降低到11.2％。
該團隊還專注於針對瀏覽器的新穎攻擊，例如網頁文檔對像模型（DOM）中的隱藏惡意表單字段（DOM）和通過URL文本注入。在四種此類瀏覽器特定攻擊類型的“挑戰”集中，新的防禦能力將攻擊成功率從35.7％降低到0％。
這些威脅不僅是理論上的。 Brave的研究人員最近發現了一個現實世界提示intperplyplexity comet comet ai browser ai browser 的弱點表明這些 href=“ https://thehackernews.com/2025/08/experts-find-ai-browsers-can-be.html” target=“ _ black”> exploits可以在實時，商業產品上起作用，並強調解決這些安全挑戰的緊迫性。戰爭
人類的舉動加劇了技術巨頭的比賽，以開發代理AI。 Openai於2025年7月推出了強大的Chatgpt代理商，繞過“我不是機器人”安全測試的觀察到。它的前身運營商在一月份推出了更有限的前身操作員。
Microsoft也是主要參與者。它在7月為其邊緣瀏覽器啟動了實驗性的“副本模式”，該模式可以理解所有打開選項卡的上下文。該策略是將AI深深地嵌入現有的瀏覽器生態系統中。
這種願景是雄心勃勃的，一位高管指出:“如果一個人可以使用該應用程序，則代理也可以。”正如微軟的肖恩·林德斯（Sean Lyndersay）所說的那樣，目標是一個無縫的合作者，“不僅為您提供無盡的標籤來進行篩選，而且還可以與您合作，作為一個合理的合作者。”
其他競爭對手在AI周圍構建了全新的瀏覽器。 Perplexity於7月推出了高級彗星瀏覽器，而Opera於5月推出了其代理霓虹燈瀏覽器，均旨在從頭開始重新定義Web導航。
，即使是瀏覽器的長期重新安排的瀏覽器，也沒有站立。該公司正在其AI工作室內悄悄地開發自己的“計算機使用”代理商，這表明其意圖是在這個新領域競爭。
儘管有快速的創新，但代理商績效的現實
質疑這些代理商的現實有效性。卡內基·梅隆大學（Carnegie Mellon University）的2025年5月的一項研究發現，即使是AI高級代理商也應對複雜的商業自動化任務鬥爭。研究指出，缺乏常識和低成功率。
這種懷疑是某些行業領導者共享的。困惑首席執行官Aravind Srinivas敦促謹慎，他說:“任何人說代理商將在2025年工作的人都應該持懷疑態度。”這反映了證明能力和在大規模安全地部署它之間的顯著差距。
目前，開發人員正在以人類的監督為重要的安全網。 Openai Research負責人Isa Fulford指出，他們的經紀人需要許可進行不可逆轉的行動，並解釋說:“在Chatgpt代理人做任何“不可逆”的事情之前，例如發送電子郵件或進行預訂，首先要求允許。”
Anthropious的謹慎，反饋驅動的驅動的飛行員暗示了類似的理解。儘管可以管理我們數字生活的人工智能的承諾令人信服，但該行業承認，真正自主，值得信賴的代理商的時代尚未到來。