AI Η εταιρεία Anthropic αποκάλυψε σήμερα ότι τα προχωρημένα μοντέλα AI του είναι ενεργά οπλισμένα από τους εγκληματίες στον κυβερνοχώρο για εξελιγμένες επιθέσεις από άκρο σε άκρο. Σε μια νέα έκθεση Intelligence Intelligence, η εταιρεία περιγράφει μια ανησυχητική τάση που ονομάζει”vibe-hacking”, όπου ένας ενιαίος κακόβουλος ηθοποιός χρησιμοποιεί έναν πράκτορα AI όπως ο Claude τόσο ως τεχνικός σύμβουλος όσο και ένας ενεργός χειριστής. Δίνει τη δυνατότητα στους φορείς απειλής με περιορισμένες δεξιότητες να δημιουργούν ransomware, να αναλύουν κλεμμένα δεδομένα και ακόμη και να βοηθήσουν τους εργαζόμενους της Βόρειας Κορέας να εξασφαλίσουν δόλια την τεχνολογική εργασία υψηλής πληρωμής για τη χρηματοδότηση κρατικών προγραμμάτων. Αυτό σηματοδοτεί μια σημαντική εξέλιξη στη χρήση του AI για κακόβουλους σκοπούς.”Τα συστήματα AGATIC AI είναι οπλισμένα.”Αυτό μετακινεί την απειλή πέρα από την απλή βοήθεια στην ενεργό εκτέλεση των επιθέσεων από πράκτορες AI. Αυτή η προσέγγιση βλέπει το AI να χρησιμεύει τόσο ως τεχνικός σύμβουλος όσο και ως ενεργός χειριστής, επιτρέποντας επιθέσεις που θα ήταν πολύ πιο δύσκολο για ένα άτομο να εκτελέσει χειροκίνητα. Σηματοδοτεί μια θεμελιώδη μετατόπιση από το AI ως ένα απλό εργαλείο στο AI ως συνεργάτη της επιχείρησης. Κυριακής Λειτουργία (Παρακολούθηση ως GTG-2002) όπου ένας μόνο ηθοποιός χρησιμοποίησε τον πράκτορα κώδικα Claude για να πραγματοποιήσει μια κλιμακωτή εκστρατεία εκβιασμού δεδομένων. Μέσα σε μόλις ένα μήνα, η επιχείρηση υπονομεύει τουλάχιστον 17 ξεχωριστούς οργανισμούς σε τομείς όπως η υγειονομική περίθαλψη, οι υπηρεσίες έκτακτης ανάγκης και η κυβέρνηση.
Το AI δεν ακολούθησε απλώς ένα σενάριο. Ενώ ο ηθοποιός παρείχε ένα αρχείο οδηγού με προτιμώμενες τακτικές, ο πράκτορας εξακολουθούσε να αξιοποιείται για να κάνει τόσο τακτικές όσο και στρατηγικές αποφάσεις. Προσδιόρισε πώς να διεισδύσει καλύτερα τα δίκτυα, ποια δεδομένα για την εξάλειψη και τον τρόπο δημιουργίας ψυχολογικά στοχοθετημένων απαιτήσεων εκβιασμού. Στη φάση αναγνώρισης, ο πράκτορας αυτοματοποιούσε τη σάρωση χιλιάδων τελικών σημείων VPN για τον εντοπισμό ευάλωτων συστημάτων. Κατά τη διάρκεια της εισβολής, παρείχε βοήθεια σε πραγματικό χρόνο, προσδιορίζοντας κρίσιμα συστήματα όπως οι ελεγκτές τομέα και η εξαγωγή διαπιστευτηρίων. Δημιούργησε παραδοχές εκδόσεις των υφιστάμενων εργαλείων σήραγγας για να αποφύγει τον Defender των Windows και ακόμη και να αναπτύξει εντελώς νέο κώδικα πληρεξούσιου TCP από το μηδέν. Όταν οι αρχικές προσπάθειες φοροδιαφυγής απέτυχαν, η AI πρότεινε νέες τεχνικές όπως η κρυπτογράφηση συμβολοσειρών και το όνομα αρχείου που μεταμφιέζονται για να συγκαλύψουν τα κακόβουλα εκτελέσιμα του. Αναλύει τα κλεμμένα δεδομένα για τη δημιουργία στρατηγικών εκβιασμών πολλαπλών επιπέδων, δημιουργώντας λεπτομερή”σχέδια κέρδους”που περιελάμβαναν άμεσο οργανωτικό εκφυλισμό, πωλήσεις δεδομένων σε άλλους εγκληματίες και στοχοθετημένη πίεση σε άτομα των οποίων τα δεδομένα ήταν συμβιβασμένα. href=”https://www.theverge.com/ai-artificial-intelligence/766435/anthropic-claude-threat-intelligence-report-ai-cybersecurity-hacking”target=”_ blank”> Είπε στο Verge ,”Αυτή είναι η πιο σοφιστική χρήση των Agents που έχω δει… Το AI υπολογίζει τα βέλτιστα ποσά λύτρας με βάση την ανάλυσή του, με απαιτήσεις που μερικές φορές υπερβαίνουν τα $ 500.000. Αυτό μεταβάλλει θεμελιωδώς το τοπίο της απειλής, καθιστώντας πιο δύσκολο να εκτιμηθεί η πολυπλοκότητα ενός εισβολέα με βάση την πολυπλοκότητα της λειτουργίας τους μόνο του. href=”https://www-cdn.anthropic.com/b2a76c6f6992465c09a6f2fce282f6c0ceea8c200.pdf”target=”_ blank”> Ανθροφική αναφορά είναι η άνοδος του”no-code malware”, ένας μετασχηματισμός που ενεργοποιείται από το removes tradeign barvers barbariers. Η έκθεση αναφέρει ότι”ο AI μειώνει τα εμπόδια σε εξελιγμένα εγκλήματα στον κυβερνοχώρο”. Αυτός δεν είναι ένας θεωρητικός κίνδυνος. Η εταιρεία αναγνώρισε έναν ηθοποιό που εδρεύει στο Ηνωμένο Βασίλειο (GTG-5004), ο οποίος ενσωματώνει τέλεια αυτό το νέο πρότυπο. Ο ηθοποιός φάνηκε σε θέση να εφαρμόσει σύνθετη κρυπτογράφηση ή αντιμετώπιση τεχνικών ζητημάτων χωρίς τη βοήθεια του Claude, αλλά ήταν με επιτυχία το μάρκετινγκ και η πώληση ικανών ransomware. Ένα βασικό dll ransomware και εκτελέσιμο προσφέρθηκε για $ 400, ένα πλήρες κιτ RAAS με ασφαλή κονσόλα PHP και εργαλεία εντολών και ελέγχου για $ 800 και ένα πλήρως μη ανιχνεύσιμο (FUD) crypter για τα δυαδικά αρχεία των Windows για $ 1.200. Ο ηθοποιός διατήρησε την επιχειρησιακή ασφάλεια διανείμει μέσω ενός χώρου.Onion και χρησιμοποιώντας κρυπτογραφημένο μήνυμα ηλεκτρονικού ταχυδρομείου, ισχυριζόμενος ότι τα προϊόντα ήταν”για εκπαιδευτική και ερευνητική χρήση”, ενώ η διαφήμιση σε εγκληματικά φόρουμ. Τα βασικά χαρακτηριστικά του περιελάμβαναν έναν κρυπτογραφημένο κρυπτογράφημα chacha20 για κρυπτογράφηση αρχείων, τη χρήση του API CNG των Windows για τη διαχείριση κλειδιών RSA και τους μηχανισμούς κατά της ανάκτησης, όπως η διαγραφή των αντιγράφων σκιών όγκου για την πρόληψη της εύκολης αποκατάστασης. Αυτές οι μέθοδοι χρησιμοποιούν την άμεση επίκληση syscall για να παρακάμψουν τα άγκιστρα API που χρησιμοποιούνται συνήθως χρησιμοποιούνται από τις λύσεις EDR. Αυτό αντιπροσωπεύει έναν σημαντικό επιχειρησιακό μετασχηματισμό όπου η τεχνική ικανότητα ανατίθεται σε εξωτερικούς συνεργάτες και όχι από την εμπειρία του. Καθώς οι προηγούμενες αναφορές Winbuzzer έχουν αναλυθεί, αυτή η μετατόπιση είναι ορατή σε όλο το τοπίο απειλής, από τους επιτιθέμενους που χρησιμοποίησαν το V0 του Vercel για ένα”στιγμιαίο phishing”σε states και ai-a-chaulserated επιθέσεις, τα οποία τώρα εκτοξεύουν νόμιμα μοντέλα όπως το Grok και το Mixtral.
Μια συστηματική και εκλεπτυσμένη εκστρατεία από τους εργαζόμενους της Βόρειας Κορέας που αξιοποιούν τον Claude για να αποκτήσουν και να διατηρήσουν δόλια θέσεις εργασίας υψηλής πληρωμής στις εταιρείες Fortune 500. Σύμφωνα με την ανθρωπική έρευνα, αυτές οι επιχειρήσεις έχουν σχεδιαστεί για να αποφεύγουν τις διεθνείς κυρώσεις και να παράγουν εκατοντάδες εκατομμύρια δολάρια ετησίως για να χρηματοδοτήσουν τα προγράμματα όπλων του έθνους.
Το πιο εντυπωσιακό εύρημα είναι η «πλήρης εξάρτηση των εργαζομένων από το AI για να λειτουργήσει σε τεχνικούς ρόλους». Αυτά τα άτομα φαίνεται να μην είναι σε θέση να γράψουν βασικό κώδικα, προβλήματα εντοπισμού σφαλμάτων ή ακόμα και να επικοινωνούν επαγγελματικά χωρίς σταθερή βοήθεια AI. Αυτό δημιουργεί ένα νέο πρότυπο όπου η τεχνική ικανότητα δεν κατέχει, αλλά εξ ολοκλήρου προσομοιωμένη. Στην αρχική φάση”Persona Development”, οι φορείς εκμετάλλευσης χρησιμοποιούν το Claude για να δημιουργήσουν πειστικά επαγγελματικά υπόβαθρα, να δημιουργήσουν τεχνικά χαρτοφυλάκια με ιστορίες έργων και να ερευνήσουν τις πολιτιστικές αναφορές για να εμφανιστούν αυθεντικά. Αυτό τους επιτρέπει να περάσουν με επιτυχία συνεντεύξεις για τους ρόλους που είναι ανεπιφύλακτες για.
Μόλις προσληφθεί, η εξάρτηση εντείνεται. Στη φάση”συντήρησης της απασχόλησης”, οι εργαζόμενοι βασίζονται στην AI για να προσφέρουν πραγματική τεχνική εργασία, να συμμετέχουν στις επικοινωνίες της ομάδας και να ανταποκριθούν στις αναθεωρήσεις κώδικα, στη διατήρηση της ψευδαίσθησης της ικανότητας. Τα δεδομένα της Anthropic δείχνουν ότι περίπου το 80% της χρήσης CLAUDE των εργαζομένων είναι σύμφωνη με την ενεργό απασχόληση. Αυτή η προσέγγιση AI, παρακάμπτει την παραδοσιακή συμφόρηση των ετών που χρειάζονται χρόνια εξειδικευμένης κατάρτισης σε ελίτ ιδρύματα όπως το Πανεπιστήμιο Kim Il Sung. Ιστορικά, αυτό περιόρισε τον αριθμό των εργαζομένων που θα μπορούσε να αναπτύξει το καθεστώς. Τώρα, η AI έχει αφαιρέσει αποτελεσματικά αυτόν τον περιορισμό, επιτρέποντας στα άτομα με περιορισμένες δεξιότητες να εξασφαλίσουν και να διατηρήσουν προσοδοφόρες θέσεις μηχανικής. Αυτή η οπλοποίηση του AI δεν συμβαίνει σε κενό. Η Microsoft έχει ήδη προειδοποιήσει ότι”η AI έχει αρχίσει να μειώνει το τεχνικό μπαρ για τους ηθοποιούς της απάτης και του εγκλήματος στον κυβερνοχώρο… καθιστώντας ευκολότερη και φθηνότερη την παραγωγή πιστευτών περιεχομένων για το Cyberattacks με όλο και πιο γρήγορο ρυθμό.”Απαντώντας στα ευρήματά του, ο Anthropic έχει απαγορεύσει τους κακόβουλους λογαριασμούς και βελτίωσε τα εργαλεία του για τη συσχέτιση των γνωστών δεικτών συμβιβασμού. Η εταιρεία μοιράζεται επίσης τεχνικούς δείκτες με εταίρους της βιομηχανίας για να βοηθήσει στην πρόληψη της κατάχρησης σε όλο το οικοσύστημα.