Η Google ξεκίνησε μια μεγάλη ώθηση στην κυβερνοασφάλεια που υποστηρίζεται από AI τη Δευτέρα, ανακοινώνοντας τρεις νέες πρωτοβουλίες για την αυτοματοποίηση της ψηφιακής άμυνας.
Το κύριο εργαλείο είναι ο CodeMender, ένας νέος πράκτορας τεχνητής νοημοσύνης που βρίσκει και διορθώνει μόνος του σφάλματα λογισμικού.
Για να λάβει βοήθεια από την κοινότητα ασφαλείας, η Google επίσης ξεκίνησε ένα νέο πρόγραμμα επιβράβευσης σφαλμάτων AI με ανταμοιβές έως και 30.000 $. Αυτές οι προσπάθειες αποτελούν μέρος της στρατηγικής της Google για χρήση της τεχνητής νοημοσύνης για την καταπολέμηση των απειλών στον κυβερνοχώρο. Η εταιρεία επίσης κυκλοφορεί ένα ενημερωμένο Secure AI Framework.
Αυτή η κίνηση σηματοδοτεί μια σημαντική κλιμάκωση στη χρήση της τεχνητής νοημοσύνης για αμυντικούς σκοπούς. Βασίζεται στην προηγούμενη δουλειά της Google με εργαλεία όπως το Big Sleep, μια τεχνητή νοημοσύνη που απέτρεψε πρόσφατα μια πραγματική εκμετάλλευση.
Η βασική στρατηγική είναι να δημιουργηθεί ένα αποφασιστικό πλεονέκτημα για τους υπερασπιστές.
CodeMender: An AI Agent for Autonomous Defense
Η ανακοίνωση του κέντρου είναι M. href=”https://deepmind.google/discover/blog/introducing-codemender-an-ai-agent-for-code-security/”target=”_blank”>ένας αυτόνομος πράκτορας που έχει σχεδιαστεί για να επιδιορθώνει τα τρωτά σημεία του λογισμικού.
Με την υποστήριξη του προηγμένου κώδικα Gemini της Google, μπορεί να προσδιορίσει και να διορθώσει σύνθετα μοντέλα ασφαλείας του Gemini Deep Think μέσω σύνθετων μοντέλων ασφαλείας. ελαττώματα.
Το CodeMender λειτουργεί τόσο αντιδραστικά, επιδιορθώνοντας νέα σφάλματα, όσο και προληπτικά, ξαναγράφοντας κώδικα για την εξάλειψη ολόκληρων κατηγοριών τρωτών σημείων.
Η διαδικασία του περιλαμβάνει ανάλυση βαθύτερης αιτίας και ένα μοναδικό σύστημα αυτοεπικύρωσης που χρησιμοποιεί εξειδικευμένους πράκτορες «κριτικής» για να ελέγξει τις διορθώσεις του. διορθώσεις σε ανοιχτού κώδικα έργα.
Σε μία αξιοσημείωτη περίπτωση, εφάρμοσε σχολιασμούς ασφαλείας στη βιβλιοθήκη libwebp, μια επιδιόρθωση που θα μπορούσε να είχε αποτρέψει την εκμετάλλευση iOS με μηδενικό κλικ20. Νέο Bug Bounty για να ενθαρρύνει την Έρευνα Ασφάλειας AI
Για να ενισχύσει τις εσωτερικές της προσπάθειες, η Google εγκαινιάζει ένα ειδικό Πρόγραμμα Επιβράβευσης Ευπάθειας AI (VRP). Το πρόγραμμα στοχεύει να δώσει κίνητρα στην παγκόσμια ερευνητική κοινότητα ασφάλειας να βρει και να αναφέρει ελαττώματα υψηλού αντίκτυπου στα προϊόντα τεχνητής νοημοσύνης, με κορυφαίες ανταμοιβές $30, VRP0> παγιώνει και διευκρινίζει τους κανόνες για την αναφορά θεμάτων που σχετίζονται με την τεχνητή νοημοσύνη. Περιλαμβάνει ρητά εκμεταλλεύσεις ασφαλείας, όπως έγκαιρες ενέσεις και εξαγωγή δεδομένων. Ωστόσο, αποκλείει ζητήματα που σχετίζονται με τη δημιουργία επιβλαβούς περιεχομένου, το οποίο η Google καθοδηγεί τους χρήστες να αναφέρουν μέσω εργαλείων σχολίων εντός του προϊόντος. Αυτό επισημοποιεί μια προσπάθεια που έχει οι ερευνητές έχουν ήδη πληρωθεί πάνω από 430.000 $ για σφάλματα που σχετίζονται με την τεχνητή νοημοσύνη. Αν και το πρόγραμμα είναι ένα ευπρόσδεκτο βήμα, ορισμένοι επικριτές προτείνουν ότι η μέγιστη πληρωμή μπορεί να είναι πολύ χαμηλή για να προσελκύσει κορυφαίους ερευνητές για τα πιο σύνθετα τρωτά σημεία τεχνητής νοημοσύνης. Το τρίτο στοιχείο της ανακοίνωσης της Google είναι η κυκλοφορία της νέας έκδοσης Secure AI Framework (SAIF). σχετικά με τη διαχείριση τους κινδύνους που ενέχουν οι ολοένα και πιο αυτόνομοι πράκτορες τεχνητής νοημοσύνης, μια αυξανόμενη ανησυχία σε ολόκληρο τον κλάδο. Αυτές οι πρωτοβουλίες αποτελούν άμεση απάντηση στο αυξανόμενο κύμα κυβερνοεπιθέσεων που οδηγούνται από την τεχνητή νοημοσύνη. Όπως έχουν σημειώσει εταιρείες όπως το NTT DATA, τα παραδοσιακά εργαλεία ασφαλείας δυσκολεύονται να συμβαδίσουν. Η Sheetal Mehta της NTT DATA είχε δηλώσει προηγουμένως ότι”τα κατακερματισμένα εργαλεία ασφαλείας δεν μπορούν να συμβαδίσουν με τις σημερινές αυτοματοποιημένες επιθέσεις.” Η στρατηγική της Google είναι να βασιστεί στις επιτυχίες των προηγούμενων έργων ασφάλειας AI. Ο πράκτορας του Big Sleep, για παράδειγμα, εξελίχθηκε από την ανακάλυψη του πρώτου του σφάλματος στο SQLite στα τέλη του 2024 στην προληπτική εξουδετέρωση μιας κρίσιμης απειλής προτού μπορέσει να εκμεταλλευτεί στα μέσα του 2025. Με πλαίσια ανοιχτού κώδικα όπως το SAIF και αναπτύσσοντας αυτόνομα εργαλεία όπως τα δικά της προϊόντα, αλλά όχι μόνο το λογισμικό CodeMender, η Google στοχεύει στην ασφάλεια των προϊόντων της. οικοσύστημα. Αυτή η ολοκληρωμένη προσέγγιση υπογραμμίζει τη μακροπρόθεσμη δέσμευση της εταιρείας να ανατρέψει την ισορροπία της κυβερνοασφάλειας υπέρ των υπερασπιστών.Δημιουργία ενός προληπτικού οικοσυστήματος άμυνας AI
