Die Google Threat Intelligence Group sieht eine neue Eskalationsstufe bei Cyberangriffen mit künstlicher Intelligenz. Laut dem aktuellen „AI Threat Tracker“ setzen staatliche und kriminelle Akteure KI inzwischen systematisch für Exploit-Entwicklung, Malware und Desinformation ein.

Foto: Google John Hultquist, Chefanalyst der Google Threat Intelligence Group Die Google Threat Intelligence Group (GTIG) hat mit dem Bericht „AI Threat Tracker“ neue Erkenntnisse über den zunehmenden Einsatz künstlicher Intelligenz bei Cyberangriffen veröffentlicht. Demnach experimentieren Angreifer nicht mehr nur mit KI-Technologien, sondern nutzen diese bereits im größeren Maßstab zur Entwicklung und Skalierung von Angriffen.

Besonders hervor hebt Google dabei die Identifikation eines Zero-Day-Exploits, der laut GTIG vermutlich mithilfe eines KI-Modells entdeckt und für Angriffe vorbereitet wurde. Dabei handelt es sich um eine Umgehung der Zwei-Faktor-Authentifizierung. Nach Angaben von Google ist dies der erste bekannte Fall, in dem Angreifer KI erfolgreich zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt haben. Gleichzeitig geht das Unternehmen davon aus, dass es zahlreiche weitere, bislang unentdeckte Angriffsoperationen mit verschiedenen KI-Modellen gibt.

Die beteiligten Bedrohungsakteure seien bereits in der Vergangenheit mit größeren Angriffen in Erscheinung getreten. Fehler bei der Umsetzung hätten den erfolgreichen Einsatz des Exploits allerdings wahrscheinlich verhindert. Google meldete die Schwachstelle an den betroffenen Entwickler, der inzwischen einen Sicherheits-Patch veröffentlicht hat. Laut GTIG reduziert dies die Gefahr durch die konkrete Schwachstelle erheblich.

Staatliche Akteure nutzen KI zur Skalierung von Angriffen

Der Bericht beschreibt insbesondere Aktivitäten staatlich unterstützter Gruppen aus China, Nordkorea und Russland. Demnach nutzen Bedrohungsakteure KI-Technologien zunehmend zur Analyse von Sicherheitslücken, zur Entwicklung von Exploits und zur Automatisierung ihrer Operationen.

So setzt der nordkoreanische Akteur APT45 laut Google KI ein, um Tausende potenzieller Exploits automatisiert zu validieren und sein Arsenal auszubauen. Chinesische Gruppen wie UNC2814 nutzen laut Bericht KI-generierte Experten-Personas, um gezielt nach Schwachstellen in Hardware wie Routern zu suchen.

Darüber hinaus beobachtet Google den verstärkten Einsatz agentenbasierter KI-Tools. Die neue Android-Backdoor „PROMPTSPY“ soll mithilfe von KI eigenständig durch Benutzeroberflächen navigieren und sogar Deinstallationsversuche blockieren können. Auch das KI-Framework „OpenClaw“ werde von Angreifern genutzt, um Angriffstechniken in kontrollierten Umgebungen zu testen und weiterzuentwickeln.

Nach Angaben von GTIG wurde zudem ein Akteur mit Verbindungen zur Volksrepublik China dabei beobachtet, wie er mithilfe agentischer KI-Tools autonom ein japanisches Technologieunternehmen dauerhaft auf Schwachstellen untersuchte.

KI wird auch für Desinformation und Tarnung eingesetzt

Neben klassischen Cyberangriffen beschreibt der Bericht auch den zunehmenden Einsatz von KI in russischen Informationsoperationen. Russische Akteure sollen KI unter anderem zur Verbesserung von Malware verwenden, die im Zusammenhang mit dem Krieg in der Ukraine eingesetzt wird.

Besondere Aufmerksamkeit richtet Google auf die prorussische Kampagne „Operation Overload“. Diese nutzt laut Bericht KI-gestütztes Stimmenklonen, um Journalistinnen und Journalisten zu imitieren und manipulierte Audioinhalte in echte Nachrichtenbeiträge einzuschleusen. Ziel seien Desinformationskampagnen in den USA, der Ukraine und Frankreich.

Darüber hinaus setzen mit Russland verbundene Akteure laut GTIG KI-generierten Ködercode ein, um Schadsoftware vor Sicherheitsscannern zu verbergen. Auch Angriffe auf KI-Lieferketten nehmen laut Google zu. Die Gruppe „TeamPCP“ attackiere beispielsweise Komponenten von KI-Software wie LiteLLM, um sensible Cloud-Informationen und AWS-Schlüssel aus Entwicklungsumgebungen zu stehlen.

Google sieht Wettlauf um KI-Sicherheitslücken bereits im Gange

John Hultquist, Chefanalyst der Google Threat Intelligence Group, warnt davor, die Entwicklung zu unterschätzen:

„Es herrscht die Fehlannahme, dass der Wettlauf um KI-Sicherheitslücken unmittelbar bevorsteht. Tatsächlich hat er bereits begonnen. Für jede Zero-Day-Schwachstelle, die wir auf KI zurückführen können, gibt es wahrscheinlich viele weitere.“

Weiter erklärt Hultquist: „Bedrohungsakteure nutzen KI, um Geschwindigkeit, Umfang und Raffinesse ihrer Angriffe zu steigern. Sie können damit ihre Operationen testen, Ziele dauerhaft ins Visier nehmen, bessere Malware entwickeln und viele weitere Verbesserungen vornehmen. Staatliche Akteure nutzen diese Technologie bereits, doch auch kriminell motivierte Hacker sollten nicht unterschätzt werden, denn sie sind bekannt für breit angelegte und aggressive Angriffe.“

Google verweist darauf, dass Erkenntnisse aus dem „AI Threat Tracker“ in Sicherheitsprodukte und Schutzmechanismen einfließen. Dazu gehören Maßnahmen gegen missbräuchliche Konten sowie KI-gestützte Sicherheitswerkzeuge wie „Big Sleep“, das Softwarefehler erkennen soll, bevor Angreifer sie ausnutzen. Zudem nutzt „CodeMender“ laut Google das Reasoning-Modell Gemini, um kritische Sicherheitslücken automatisiert zu beheben.