Google a lansat luni o apăsare majoră în cibersecuritate bazată pe AI, anunțând trei noi inițiative pentru automatizarea apărării digitale.
Principalul instrument este CodeMender, un nou agent AI care găsește și remediază erori software. href=”https://bughunters.google.com/blog/6116887259840512/announcing-google-s-new-AI-Vulnerability-reward-program”Target=”_ Blank”> a început un nou program AI Bug Bounty, cu recompense până la 30.000 USD . Aceste eforturi fac parte din strategia Google de a utiliza AI pentru a combate amenințările cibernetice. The company is also releasing an updated Secure AI Framework.
Această mișcare semnalează o escaladare semnificativă în utilizarea AI în scopuri defensive. Se bazează pe lucrările anterioare ale Google cu instrumente precum Big Sleep, o AI care a împiedicat recent o exploatare din lumea reală.
Strategia de bază este de a crea un avantaj decisiv pentru apărători.
CodeMender: Un agent AI pentru apărarea autonomă
Piesa centrală a anunțului este CodeMender,
The Centre Piece a anunțului este CodeMender,
The Center Piepespe a anunțului este CodeMender,
The Center Piepespe a anunțului este CodeMender, Un agent autonom conceput pentru a plasat vulnerabilitățile software-ului . Flaws.
CodeMender operează atât în mod reactiv, plasarea de noi erori, cât și proactiv, prin rescrierea codului pentru a elimina întregi clase de vulnerabilități.
Procesul său include analiza profundă a cauzelor rădăcină și un sistem unic de auto-validare care utilizează „Agenții de critică” specializați, agentul de revizuire a remedierii. Proiecte.
Într-un caz notabil, a aplicat adnotări de securitate la biblioteca libwebp, O soluție care ar fi putut preveni o exploatare a lui Zero-cllick IOS din 2023 .
O nouă recompensă de eroare pentru a stimula AI Security Research
Pentru a-și consolida eforturile interne, Google lansează un program dedicat de recompensă de vulnerabilitate AI (VRP).
Programul urmărește să stimuleze comunitatea de cercetare de securitate globală să găsească și să raporteze defectele de înaltă impact în ceea ce privește produsele sale A Noul VRP se consolidează și clarifică regulile pentru raportarea problemelor legate de AI. Acesta include în mod explicit exploatări de securitate, cum ar fi injecții prompte și exfiltrarea datelor.
Cu toate acestea, exclude problemele legate de generarea de conținut dăunătoare, pe care Google le direcționează utilizatorii să raporteze prin intermediul instrumentelor de feedback în deprodus href=”https://blog.google/technology/safety-security/ai-security-frontier-strategy-tools/”target=”_ blank”> cercetători deja plătiți peste 430.000 USD pentru bug-uri legate de AI . În timp ce programul este un pas binevenit, unii critici sugerează că plata maximă poate fi prea mică pentru a atrage cercetători de elită pentru cele mai complexe vulnerabilități AI.
Construirea unui ecosistem de apărare AI proactiv
A treia componentă a anunțului Google este eliberarea acestui cadru AI securizat. Gestionarea riscurilor prezentate de agenții AI din ce în ce mai autonomi, o preocupare din ce în ce mai mare în întreaga industrie.
Aceste inițiative reprezintă un răspuns direct la creșterea viu a cyberattack-urilor bazate pe AI. După cum au remarcat firme precum NTT Data, instrumentele tradiționale de securitate se luptă să țină pasul.
Sheetal Mehta al datelor NTT au declarat anterior că „instrumentele de securitate fragmentate nu pot ține pasul cu atacurile automate de astăzi. Marele său agent de somn, de exemplu, a evoluat de la descoperirea primului său bug din SQLite la sfârșitul anului 2024, până la neutralizarea proactivă a unei amenințări critice înainte de a putea fi exploatată la mijlocul anului 2025.
prin cadre de aprovizionare deschisă, cum ar fi SAIF și dezvoltarea instrumentelor autonome precum CodeMender, Google își propune să asigure doar produsele sale, ci și ecosistemul software. Angajamentul pe termen lung al companiei de a renunța la soldul cibersecurității în favoarea apărătorilor.
