Openain uusi chatgpt agent, työkalu, joka on suunniteltu automatisoimaan monimutkaisia digitaalisia työnkulkuja, on ironisesti todistanut kykynsä voittamalla turvajärjestelmän, joka on rakennettu ohjelmien torjumiseksi aivan kuten se. Pian sen 17. heinäkuuta maksettujen käyttäjien käynnistämisen jälkeen AI: n havaittiin navigoivan Cloudflare-arvossa “En ole robotti”-vahvistus. Tämä esittely ei vain esittele agentin edistyneitä kykyjä, vaan myös merkitsee uutta vaihetta AI-järjestelmien ja verkkoturvatoimenpiteiden välisessä asekilpailussa.
agentti, joka todistaa, että se ei ole bot
Agentin oman juoksukommentin järjetöntä tilanteen järjetöntä. Kun se lähestyi tietoturvatarkistuspistettä, AI kertoi käyttäjälle ajatusprosessinsa väittäen:”Tämä vaihe on välttämätöntä todistaakseni, etten ole botti ja jatkan toimintaa”, kuvakaavioiden jaettu verkossa . Tämä hetki vangitsee täydellisesti modernin AI: n paradoksin. Järjestelmä, jonka agentti voitti, CloudFlare’s Turnslet on moderni kehitys, joka analysoi käyttäytymishäiriöitä, kuten hiiren liikkeet, ilman visuaalista palkkoa. Agentin menestys merkitsee hienostunutta kykyä jäljitellä näitä ihmisen kaltaisia malleja.
Tämä tapahtuma on moderni käänne Turingin testissä, jossa koneen kyky osoittaa älykästä käyttäytymistä, joka on erotettavissa ihmisen kanssa, on vertailukohta. Täällä agentti ei puhu vain; Se toimii tiensä läpi digitaalisen tarkistuspisteen, joka on suunniteltu estämään täsmälleen tällainen automatisoitu käyttäytyminen.
Tämä kyky on osa pitkäaikaisia “aseiden kilpailuja”. Ironista kyllä, Googlen Recaptcha-kaltaiset järjestelmät ovat pitkään käyttäneet ihmisen panosta kouluttamaan AI-malleja, jotka ovat nyt kykeneviä voittamaan tällaiset testit. Tämä valtavirran työkalun korkean profiilin menestys tuo kuitenkin ongelman kyberturvallisuuskeskustelujen eturintamaan.
agentisen AI: n kärjistyvä kilpailu
chatgpt-agentin käynnistäminen on avointen merkittävin siirto vielä “Agentic ai”. Työkalu korvaa rajoitetun edeltäjänsä, operaattorin, joka esiteltiin ensimmäisen kerran tammikuussa 2025. Se toimii virtuaalisessa tietokoneessa, mikä antaa sille laajemman työkalusarjan kuin vain selaimen. Target=”_ tyhjä”> yhdistää etäselaimen kooditoimintapäätteellä . Openain tuotejohto Yash Kumar selitti, että koska edustajalla on pääsy koko tietokoneeseen, “koska chatgpt-agentti on pääsy” koko tietokoneeseen “vain selaimen sijasta, he ovat”parantaneet työkalusarjaa melko vähän””. Taustalla olevalla mallilla on myös vaikuttava suorituskyky, ja se on 27,4% vaikeassa frontiermath-vertailuarvossa, massiivinen harppaus edellisen huippumallin saavuttamasta 6,3%: sta Openain mukaan. Se on selkeä vastaus Antropisin “Computerin käyttö”-ominaisuuteen, joka julkaistiin lokakuussa 2024, ja Googlen Testit samanlaisesta agenttitoiminnosta AI-studiossa. Microsoft on avainpelaaja. VP Charles Lamanna toteaa tavoitteensa on, että “jos henkilö voi käyttää sovellusta, myös agentti voi.”Äskettäisessä Carnegie Mellon-tutkimuksessa havaittiin, että jopa Top AI-mallit kamppailevat liiketoiminnan automaatiotehtävien kanssa, korostaen ongelmia järkevällä järkillä ja web-selauksella. Openain uusi agentti mitataan näitä reaalimaailman suorituskyvyn vertailuarvoja. href=”https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf”Target=”_ _ tyhjä”> SurfeGuards sen valmistelukehyksestä V2 . Kehystä vedettiin varotoimenpiteenä mahdollisesta väärinkäytöstä korkean riskin alueilla, kuten biologiset ja kemialliset domeenit, jopa ilman suoraa näyttöä nykyisestä riskistä.
Kriittinen turvallisuuskerros on vaatimus käyttäjän suostumuksesta keskeisiin toimiin. Isa Fulfordin tutkimuksen mukaan”Ennen kuin chatgpt-agentti tekee jotain”peruuttamatonta”, kuten sähköpostin lähettäminen tai varauksen tekeminen, se pyytää ensin lupaa”. Tämä”ihmisen in-the-silmukka”-lähestymistapa on suunniteltu estämään edustajaa ottamasta peruuttamattomia vaiheita ilman nimenomaista lupaa.
Lisätoimenpiteitä ovat “kellotila”, joka keskeyttää agentin toiminnan automaattisesti herkillä verkkosivustoilla, jos käyttäjä navigoi. Openai poisti myös CHATGPT-muisti-ominaisuuden käynnistyksen yhteydessä vähentääkseen riskejä nopeasta injektio-ja datan suodatushyökkäyksistä, korostaen sen varovaista käyttöönotto-strategiaa.
Mielenkiintoista on, että Openai on ollut selvä, että agentti ei ole rakennettu nopeuden vuoksi. Fulford korosti sen roolia taustaassistenttina ja totesi:”Vaikka se vie 15 minuuttia, puoli tuntia, se on melko suuri nopeus verrattuna siihen, kuinka kauan se vie sen.”Tämä kehystää agentin ei välitöntä työkalua, vaan tehokkaana edustajana monimutkaisille, aikaa vieville prosesseille.