Kaspersky hat einen neuen Trend in der Cyberkriminalität entdeckt: den Handel mit böswilligen Eingabeaufforderungen, die darauf abzielen, die Sicherheit zu durchbrechen Maßnahmen von KI-Anwendungen wie ChatGPT. Im Jahr 2023 ergaben ihre Untersuchungen 249 solcher Aufforderungen, die auf verschiedenen Online-Plattformen zum Verkauf angeboten wurden. Dieses Ergebnis unterstreicht die zunehmende Raffinesse von Cyberkriminellen bei der Ausnutzung der Fähigkeiten großer Sprachmodelle (LLMs).
Böswilliger Einsatz von KI-Technologie
Der Einsatz von ChatGPT und anderer LLMs für illegale Aktivitäten hat große Besorgnis ausgelöst. Kaspersky verzeichnete über 3.000 Diskussionen in Telegram-Kanälen und Foren im Dark Web, die sich auf die illegale Nutzung dieser KI-Systeme konzentrierten. Diese Gespräche deuten auf eine Verschiebung in der Cyberkriminalitätslandschaft hin, in der auch weniger erfahrene Personen, oft als „Script-Kiddies“ bezeichnet, Aktionen ausführen können, für die traditionell fortgeschrittenere technische Kenntnisse erforderlich waren. Durch die Vereinfachung des Prozesses durch die Verwendung von Eingabeaufforderungen wird die Eintrittsbarriere verringert Die Beteiligung an cyberkriminellen Aktivitäten ist deutlich zurückgegangen.
Die Untersuchung weist auch auf einen wachsenden Handel mit gestohlenen ChatGPT-Zugangsdaten und kompromittierten Premium-Konten hin, was auf einen breiteren Trend von Cyberkriminellen hindeutet, die darauf abzielen, KI-Technologie auszunutzen.
Sicherheitsimplikationen und Reaktion
Versuche, ChatGPT zu „jailbreaken“ oder seine integrierten Einschränkungen zu umgehen, kommen immer häufiger vor, wobei einige Benutzer Eingabeaufforderungen aktiv modifizieren, um der KI verbotene Informationen zu entlocken. Interessanterweise scheinen einige Leitplankenumgehungen unnötig zu sein. Das Team von Kaspersky übermittelte ChatGPT eine Anfrage nach einer Liste von Endpunkten, bei denen Swagger-Spezifikationen oder API-Dokumentation möglicherweise durchgesickert sind. Das Model lehnte die Anfrage zunächst ab, stellte aber nach erneuter Anfrage eine Liste mit einer Warnung vor Missbrauch zur Verfügung.
Informationen wie diese können sowohl legitimen als auch illegalen Zwecken dienen. Entwickler könnten solche Daten beispielsweise für Sicherheitsforschung nutzen, aber sie eröffnen auch Möglichkeiten für schändliche Aktivitäten.
Angesichts dieser Entwicklungen warnt Kaspersky, dass es zwar erhebliche Spekulationen darüber gibt, dass KI polymorphe Malware schreibt – Software, die in der Lage ist, ihren Code zu ändern, um einer Entdeckung zu entgehen – bisher wurde keine solche Malware entdeckt. Dennoch bleibt die Möglichkeit ein Grund zur Sorge für die Zukunft. Das britische National Cyber Security Centre (NCSC) hat ebenfalls Alarm geschlagenüber die potenzielle Rolle von KI bei der Verbesserung der Fähigkeiten von Ransomware und staatlich unterstützter Malware.
