Trend Micro warnt in einer aktuellen Untersuchung vor dem Aufkommen von KI-Systemen wie „Xanthorox“, die ohne ethische Schutzvorrichtungen agieren und Angreifern die Erstellung von Schadcode erleichtern. Auch wenn die tatsächlichen Fähigkeiten des Tools begrenzt sind, markiert es laut den Forschern einen Wendepunkt in der Automatisierung von Cyberkriminalität.
Foto: Trend Micro
David Sancho, Senior Threat Researcher bei Trend Micro
Foto: Trend Micro
Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro
Künstliche Intelligenz ist längst zu einem zentralen Bestandteil digitaler Geschäftsprozesse geworden – und zunehmend auch zu einem Werkzeug in den Händen von Cyberkriminellen. Eine aktuelle Analyse von Trend Micro zeigt, wie bösartige KI-Systeme wie „Xanthorox“ die Dynamik im digitalen Untergrund verändern könnten. Das Tool wird in Darknet-Foren als „guardrails-free AI“, also als KI ohne Schutzmechanismen, vermarktet und verspricht, Schadcode und Angriffswerkzeuge auf Knopfdruck zu generieren. Die Forscher kommen zu dem Schluss: Auch wenn Xanthorox in seinen Möglichkeiten übertrieben dargestellt wird, ist die Entwicklung ein Warnsignal für Unternehmen und Sicherheitsverantwortliche.
Laut Trend Micro produziert Xanthorox „funktionsfähigen bösartigen Code und Schritt-für-Schritt-Anleitungen zur Implementierung, die normalerweise von legitimen KI-Diensten blockiert werden“. Damit ermögliche das Tool auch technisch weniger versierten Nutzern, Schadsoftware zu generieren oder bestehende Angriffe anzupassen.
Trotz dieser Fähigkeiten sei Xanthorox in wesentlichen Punkten eingeschränkt: Es verfüge über keinen Internetzugang und könne daher keine Aufklärungs- oder Schwachstellenrecherchen durchführen. Auch die Werbeaussage, es handle sich um ein eigenständiges, privat gehostetes Modell, sei laut Trend Micro fraglich – vielmehr deute vieles darauf hin, dass das Tool auf einem „jailbroken“ kommerziellen KI-Modell basiere.
David Sancho, Senior Threat Researcher bei Trend Micro, betont die Gefahr der niedrigen Zugangshürden: „Getarnt hinter einer spielerischen Fassade und für nur 300 US-Dollar pro Monat erhältlich, lässt Xanthorox Nutzer funktionierende Malware, Ransomware-Code und Verschleierungsskripten generieren. Dies sind Aufgaben, die traditionell ein höheres Maß an technischem Fachwissen erfordern würden. Trotz der Behauptungen seines Entwicklers, dass es für ethisches Hacking entwickelt wurde, wird das Tool offen in kriminellen Communities beworben, während die Dokumentation über öffentliche Kanäle wie GitHub und YouTube zugänglich ist.“
Trend Micro ordnet Xanthorox als Teil einer breiteren Entwicklung ein: der zunehmenden Nutzung generativer KI für illegale Aktivitäten. Bösartige KI-Systeme könnten künftig ihre Modellleistung mit besseren Anonymitäts- und Datenschutzfunktionen kombinieren – was ihre Aufspürbarkeit weiter erschweren würde.
Die Forscher warnen daher vor einer wachsenden Professionalisierung im Untergrund: Kriminelle nutzen KI nicht mehr nur zur Text- oder Bildgenerierung, sondern zunehmend zur Automatisierung technischer Angriffsphasen. Dies senke die Hürden für Neueinsteiger und erhöhe das Bedrohungsvolumen für Unternehmen.
Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro, sieht darin eine neue Qualität des Risikos: „Tools wie Xanthorox spiegeln die nächste Phase des Missbrauchs von KI wider. Dieser Schritt wird zwar erfahrene Bedrohungsakteure nicht ersetzen, aber er wird es weniger fähigen Personen erleichtern, sich an Cyberkriminalität zu beteiligen, wodurch die Einstiegshürde gesenkt und das Gesamtvolumen der Bedrohungen für Unternehmen erhöht wird. Sicherheitsverantwortliche sollten sicherstellen, dass ihre KI-Strategien Kontrollen zur Überwachung, Prüfung und Verwaltung des Zugriffs auf generative KI-Tools und deren Verwendung in ihren Umgebungen umfassen.“
Das Beispiel Xanthorox verdeutlicht laut Trend Micro die dringende Notwendigkeit einer systematischen Auseinandersetzung mit KI-Governance. Unternehmen müssten klare Richtlinien für den internen Einsatz generativer Systeme entwickeln und sicherstellen, dass sowohl technische als auch organisatorische Schutzmaßnahmen greifen.
Neben technischen Kontrollen gewinnen dabei Schulungen und Bewusstseinsbildung an Bedeutung. Denn dieselben Technologien, die Prozesse beschleunigen und Innovation ermöglichen, können in den falschen Händen zur Waffe werden. Die Beobachtung und Analyse solcher Entwicklungen sei daher entscheidend, um künftige Angriffsformen frühzeitig zu erkennen und abzuwehren.
Den vollständigen Report finden sie in englischer Sprache auf der Homepage von Trend Micro.
