A
Antropic elindította a „Claude for Chrome” pilótát, egy új böngésző-kiterjesztést, amely lehetővé teszi, hogy az AI cselekedeteket tegyen a felhasználók számára. A mai napig bejelentett kutatási előnézet prémium szolgáltatása 1000 megbízható felhasználójára korlátozódik. A lépés célja, hogy Claude hasznosabbá tegye a Claude-t, ha lehetővé teszi a gombok kattintását és az űrlapok kitöltését. Az antropikus jelentős óvatossággal jár el a súlyos biztonsági fenyegetések kezelése érdekében. A társaság a „ Következő logikai lépés “fejlesztésében. Miután integrálódott az olyan szoftverekkel, mint a naptárak és a dokumentumok, az AI-nek lehetősége van arra, hogy a gombokra kattintson és a böngészőben lévő űrlapokat kitöltse a „lényegesen hasznosabbá”. Az előnézet a vállalat prémium „Max” tervének 1000 felhasználójára korlátozódik. Az antropikus megnyitotta a Waitlist számára a Waitlist a Waitlist számára. hiányosságok és biztonsági kérdések hiteles körülmények között. A pilóta szükséges ahhoz, hogy megértse a felhasználók által nyújtott egyedi kéréseket, az általuk meglátogatott webhelyeket, valamint azt, hogy a rosszindulatú tartalom hogyan jelenik meg a gyakorlatban, ami elengedhetetlen a robusztus biztonsági intézkedések kialakításához. A vállalat fokozatosan kibővíti a hozzáférést, amikor magabiztosságot teremt, és erősebb biztosítékokat fejlesztett ki a korlátozott előnézet során összegyűjtött adatok alapján. Az antropikus azonban figyelmezteti a pilóta felhasználókat, hogy figyeljenek a Claude számára látható adatokra, és kerüljék el az érzékeny pénzügyi, jogi vagy orvosi információkkal foglalkozó webhelyek meghosszabbítását. Az elsődleges fenyegetés a „gyors befecskendezés”, ahol a rosszindulatú szereplők elrejtik az utasításokat webhelyeken, e-mailekben vagy dokumentumokban, hogy becsapják az ügynököt a káros műveletek végrehajtására a felhasználó ismerete nélkül. Ezek a támadások az AI fájlok törlését, adat ellopását vagy jogosulatlan pénzügyi tranzakciók készítését okozhatják. Target=”_ üres”> 23,6% támadás sikerességi aránya Amikor az ügynökét szándékosan megcélozták a legfrissebb biztonsági enyhítések nélkül. Az egyik éles példában Claude nem védett változatát egy hamis biztonsági e-mail becsapta, amelyben e-maileket kell törölni a „postafiók higiénéje” számára. A rosszindulatú felszólítás azt is kijelentette, hogy „további megerősítésre nem volt szükség.”
Ezeket a rejtett utasításokat követve az AI ügynök választotta és törölte a felhasználó e-mailjeit, kijelentve, hogy „a biztonsági csapat kérésére”. A kísérlet kiemelte, hogy az AI mennyire könnyen manipulálható pusztító tevékenységekbe megfelelő biztosítékok nélkül. Az első védelmi vonal a felhasználói engedélyek; A felhasználók bármikor megadhatják vagy visszavonhatják Claude hozzáférését az egyes webhelyekhez. Az ügynököt arra is tervezték, hogy megerősítést kérjen, mielőtt olyan magas kockázatú műveleteket hajt végre, mint például a tartalom közzététele vagy a személyes adatok megosztása, még akkor is, ha a kísérleti „autonóm módban”. Ezekkel az új enyhítésekkel a támadási siker ráta 23,6%-ról 11,2%-ra csökkent. A négy ilyen böngésző-specifikus támadási típusú „kihívás” sorozaton az új védekezés lenyűgözően csökkentette a támadás sikerességi arányát 35,7%-ról 0%-ra.
Ezek a fenyegetések nem csupán elméletiek. Researchers at Brave recently discovered a real-world prompt injection vulnerability in Perplexity’s Comet AI browser, demonstrating how these Hasznók működhetnek Az élő, kereskedelmi termékek és a sürgősség sürgősségének aláhúzása. A
Antropic mozgalma felmelegíti a versenyt a technológiai óriások körében, hogy az Agentic AI fejlessze. Az Openai 2025 júliusában indította el hatalmas Chatgpt-ügynökét, amelyet megfigyeltek, hogy megkerülte az „I’m Not egy robot” biztonsági teszteket. Korlátozottabb elődjét, operátort januárban vezették be.
A Microsoft szintén fő szereplő. Júliusban elindított egy kísérleti „Copilot módot” az Edge böngészőjéhez, amely megérti a kontextust az összes nyitott lapon. A stratégia az, hogy az AI-t mélyen beágyazza a meglévő böngésző-ökoszisztémába. A cél egy zökkenőmentes munkatárs, amint a Microsoft Sean Lyndersay mondta: „Nem csak végtelen füleket ad neked, hogy átszivároghassanak, hanem együtt dolgozik veled, mint együttműködőnek, amely mindezt értelmezi.”
Más riválisok teljesen új böngészőket építenek az AI körül. A Pousbity júliusban indította el a prémium üstökös böngészőt, míg az Opera májusban mutatta be az Agentic Neon böngészőt, mindkettő célja, hogy a webes navigációt az alapoktól kezdve újradefiniálja. A vállalat csendben fejleszti saját „számítógépes használatát” ügynökét az AI stúdiójában, jelezve annak szándékát, hogy versenyezzen ebben az új arénában. A Carnegie Mellon Egyetem 2025. májusában végzett tanulmánya megállapította, hogy még a legfontosabb AI ügynökök is küzdenek a komplex üzleti automatizálási feladatokkal. A tanulmány rámutatott a józan ész és az alacsony sikeresség hiányára. A PLEPLEXTITY vezérigazgatója, Aravind Srinivas óvatosan sürgette, hogy „bárki, aki azt állítja, hogy az ügynökök 2025-ben működnek, szkeptikusnak kell lenniük.” Ez tükrözi a jelentős különbséget a képesség bemutatása és megbízható és biztonságosan történő telepítése között. Az Openai kutatási vezetője, Isa Fulford megjegyezte, hogy ügynökük visszafordíthatatlan cselekedetekhez engedélyt igényel, elmagyarázva, hogy „mielőtt a Chatgpt ügynök bármit megtesz„ visszafordíthatatlan “, például e-mail küldése vagy foglalás készítése, először engedélyt kér.”Noha egy AI ígérete, amely képes kezelni a digitális életünket, kényszerítő, az iparág elismeri, hogy az igazán autonóm, megbízható ügynökök korszaka még nem érkezett meg.
