Antropic on käynnistänyt lentäjän “Claude for Chrome”-sovelluksen, uuden selaimen laajennuksen, jonka avulla AI voi ryhtyä toimiin käyttäjille. Tänään julkistettiin, että tutkimuksen esikatselu on rajoitettu 1000 luotettavan premium-palvelun käyttäjälle. Muutoksen tavoitteena on tehdä Claude hyödyllisemmäksi antamalla sille napsauttaa painikkeita ja täyttää lomakkeet verkossa.
Tämä vaihe selaimen automaatioon on laskettu. Antropia jatkaa huomattavasti varovaisuutta vakavien turvallisuusuhkien torjumiseksi. Yhtiö on keskittynyt estämään “ nopea injektio-hyökkäykset , missä piilotetut komennot verkkosivustolla voisivat huijata AI. Pilotti siirtyy kilpailukenttään, jossa OpenAi, Microsoft ja Google kehittävät kaikki samanlaisia AI-agentteja.
Varovainen askel selaimen automaatioon
Uusi laajennus antaa Claudelle nähdä, millainen käyttäjä tarkastelee ja ryhtyy toimiin heidän puolestaan. href=”https://www.anthropic.com/news/claude-for-chrome”Target=”_ tyhjä”> Seuraava looginen vaihe “sen kehityksessä. Kun olet integroitu ohjelmistoihin, kuten kalentereihin ja asiakirjoihin, antamalla AI: lle kyvyn napsauttaa painikkeita ja täyttää lomakkeet suoraan selaimessa pidetään tapana tehdä siitä “olennaisesti hyödyllisempiä.”
Waitlist Näiden luotettavien testien odotettavissa olevien käyttötarkoituksien kanssa ja turvallisuuskysymykset aitoissa olosuhteissa. Lentäjä on välttämätöntä ymmärtää käyttäjien tekemät ainutlaatuiset pyynnöt, heidän käymänsä verkkosivustot ja kuinka haitallinen sisältö näyttää käytännössä, mikä on elintärkeää vankkajen turvallisuustoimenpiteiden rakentamiselle. Yhtiö laajentaa asteittain pääsyä, kun se lisää luottamusta ja kehittää vahvempia suojatoimenpiteitä tämän rajoitetun esikatselun aikana kerättyjen tietojen perusteella. Antropic varoittaa kuitenkin Claudelle näkyvien tietojen tietoisia tietojen käyttäjistä ja välttää laajentamista sivustoille, joihin liittyy arkaluonteisia taloudellisia, laillisia tai lääketieteellisiä tietoja.
nopean injektion specter
selain, joka käyttää AI: n esittelyä. Ensisijainen uhka on “nopea injektio”, jossa haitalliset toimijat piilottavat ohjeet verkkosivustoilla, sähköpostiviesteillä tai asiakirjoilla huijatakseen edustajaa haitallisten toimien suorittamiseen ilman käyttäjän tietämystä. Nämä hyökkäykset voivat aiheuttaa AI: n poistamaan tiedostoja, varastamaan tietoja tai tekemään luvattomia finanssialoja.
antropisen sisäisen “punaisen joukkueen”, joka sisälsi 123 testitapauksen arvioinnin 29 erilaisessa hyökkäysskenaariossa, paljastivat 23,6% hyökkäyksen onnistumisaste Kun sen agentti oli tarkoituksella kohdistettu ilman viimeisimpiä turvallisuuden lieventämisiä. Yhdessä Stark-esimerkissä Claude-suojaamaton versio huijasi väärennetyllä tietoturvapostiviestillä, jossa väitettiin, että sähköpostit oli poistettava “postilaatikon hygienialle”. Haitallinen kehote jopa väitti, että”lisävahvistusta ei vaadittu.”Kokeessa korostettiin, kuinka helposti AI: ta voidaan manipuloida tuhoisiksi toimiin ilman asianmukaisia suojatoimenpiteitä.
Yritys on sittemmin toteuttanut useita puolustuskerroksia luotettavien agenttiperiaatteidensa mukaisesti. Ensimmäinen puolustuslinja on käyttäjän käyttöoikeudet; Käyttäjät voivat myöntää tai peruuttaa Clauden pääsyn tiettyihin verkkosivustoihin milloin tahansa. Agentti on myös suunniteltu pyytämään vahvistusta ennen korkean riskin toimien, kuten sisällön julkaisemista tai henkilökohtaisten tietojen jakamista, jopa toimiessaan kokeellisessa “autonomisessa tilassa”. Näiden uusien lieventämisten myötä hyökkäysten onnistumisaste laski 23,6 prosentista 11,2 prosenttiin. Neljän tällaisen selainkohtaisen hyökkäystyypin”haaste”-joukolla uusi puolustus vähensi vaikuttavasti hyökkäysten onnistumisastetta 35,7 prosentista 0 prosenttiin.
Nämä uhat eivät ole pelkästään teoreettisia. Braven tutkijat löysivät äskettäin reaalimaailman nopea injektio haavoittuvuus hämmentyneenä Comet AI-selaimessa , osoittaen, kuinka nämä hyväksikäytöt voivat toimia Live-tilassa, kaupallisissa tuotteissa ja alentaa näiden turvallisuushaasteiden ratkaisemisen kiireellisyyden. Wars
antropisen muutto lämmittää kisaa teknisten jättiläisten keskuudessa agentiikan AI: n kehittämiseksi. Openai käynnisti voimakkaan chatgpt-agentinsa heinäkuussa 2025, jota havaittiin ohittaen “En ole robotti”-turvallisuuskokeet. Sen rajoitetumpi edeltäjä, operaattori, otettiin käyttöön tammikuussa.
Microsoft on myös merkittävä toimija. Se käynnisti heinäkuussa kokeellisen “Copilot-tilan”reuna-selaimelle, joka ymmärtää kontekstin kaikissa avoimissa välilehdissä. Strategia on upottaa AI syvästi olemassa olevaan selaimen ekosysteemi. Tavoitteena on saumaton yhteistyökumppani, kuten Microsoftin Sean Lynderiay sanoi, että”ei vain anna sinulle loputtomia välilehtiä seuloa, vaan toimii kanssasi yhteistyökumppanina, joka tekee kaiken järkevää.”Hälytys käynnisti premium-komeetan selaimen heinäkuussa, kun ooppera paljasti agentisen neonselaimen toukokuussa, molemmat pyrkivät määrittelemään uudelleen verkkosovelluksen pohjalta.
edes Google, selaimen pitkäaikaisen kuninkaan kuningas, ei seiso paikallaan. Yhtiö kehittää hiljaa omaa “tietokoneen käyttöä”-agenttiaan AI-studiossaan, mikä merkitsee sen aikomusta kilpailla tällä uudella areenalla.
Agentin suorituskyvyn todellisuus
Nopeasta innovaatiosta huolimatta kysymykset näiden edustajien reaalimaailman tehokkuudesta jatkuvat. Carnegie Mellon Universityn toukokuussa 2025 tehdyssä tutkimuksessa todettiin, että jopa huipputekijöiden AI-edustajat kamppailevat monimutkaisten liiketoiminnan automaatiotehtävien kanssa. Tutkimuksessa todettiin terve järjen puute ja alhaiset onnistumisasteet.
Jotkut alan johtajat jakavat tämän skeptisen. Häiriöiden toimitusjohtaja Aravind Srinivas on kehottanut varovaisuutta ja toteaa:”Jokainen, joka sanoo, että edustajat työskentelevät vuonna 2025, tulisi olla skeptinen.”Tämä heijastaa merkittävää kuilua kyvyn osoittamisen ja luotettavasti ja turvallisesti mittakaavassa ottamisen välillä.
Toistaiseksi kehittäjät rakentavat ihmisen valvontaa kriittisenä turvaverkona. Openai Research Lead Isa Fulford totesi, että heidän edustajansa vaatii luvan peruuttamattomiin toimiin selittäen, että “ennen ChatgPT-agentti tekee jotain”peruuttamatonta”, kuten sähköpostin lähettäminen tai varauksen lähettäminen, se pyytää ensin lupaa.”Vaikka AI: n lupaus, joka pystyy hallitsemaan digitaalista elämäämme, on pakottavaa, teollisuus myöntää, että todella itsenäisten, luotettavien edustajien aikakausi ei ole vielä saapunut.
