Ein aktueller Bericht von Trend Micro beleuchtet Sicherheitsrisiken in der KI-Infrastruktur. Besonders problematisch sind ungeschützte Server, veraltete Open-Source-Komponenten und Container-Schwachstellen. Unternehmen laufen Gefahr, zur Zielscheibe für Angreifer zu werden – oft ohne es zu wissen.
Foto: Trend Micro
Udo Schneider, Governance, Risk & Compliance Lead, Europe bei Trend Micro
Künstliche Intelligenz ist nicht nur ein Motor für Innovation, sondern zunehmend auch ein Risiko für die Cybersicherheit. Der aktuelle State of AI Security Report von Trend Micro zeigt, wie weit verbreitet grundlegende Sicherheitsmängel in KI-Systemen sind. Die Autoren richten sich mit klaren Handlungsempfehlungen an IT-Verantwortliche und Entwickler: Ohne grundlegende Schutzmaßnahmen wird der Einsatz von KI zur offenen Einladung für Angreifer.
Zahlreiche moderne KI-Systeme basieren auf einer Vielzahl spezialisierter Software-Komponenten und Frameworks. Der Bericht weist darauf hin, dass sich darin Sicherheitslücken verbergen können, wie sie auch aus herkömmlicher Software bekannt sind. Besonders im Fokus stehen Zero-Day-Schwachstellen und Exploits in essenziellen Systembestandteilen wie ChromaDB, Redis, NVIDIA Triton und dem NVIDIA Container Toolkit.
Trend Micro verweist in diesem Zusammenhang auf den jüngsten Pwn2Own-Hacking-Wettbewerb in Berlin, bei dem eine neue KI-Kategorie eingeführt wurde. Dabei wurde unter anderem ein Exploit für die Vektordatenbank Redis entdeckt – verursacht durch eine veraltete Lua-Komponente. Auch das NVIDIA Container Toolkit war Ziel erfolgreicher Angriffe.
„KI könnte für Unternehmen weltweit die Chance des Jahrhunderts sein. Wer jedoch zu schnell vorprescht, ohne angemessene Sicherheitsvorkehrungen zu treffen, kann am Ende mehr Schaden als Nutzen anrichten“, warnt Udo Schneider, Governance, Risk & Compliance Lead, Europe bei Trend Micro.
Ein zentrales Risiko ergibt sich laut Trend Micro aus Konfigurationsfehlern: Tausende KI-Server sind direkt aus dem Internet zugänglich – oft ohne Authentifizierung. Solche Expositionen entstehen häufig durch Zeitdruck bei der Entwicklung und unzureichende Prüfungen vor der Bereitstellung.
Die Forscher fanden im Rahmen ihrer Analyse über 200 frei zugängliche ChromaDB-Server, 2.000 Redis-Instanzen und mehr als 10.000 Ollama-Server, die ohne Schutzmaßnahmen betrieben wurden. Diese Systeme lassen sich leicht von Angreifern aufspüren und analysieren – mit potenziell schwerwiegenden Folgen.
„Wie unser Bericht zeigt, wird schon jetzt ein Großteil der KI-Infrastruktur aus ungesicherten bzw. ungepatchten Komponenten aufgebaut, was Angreifern Tür und Tor öffnet“, so Schneider weiter.
Viele KI-Anwendungen setzen auf Open-Source-Komponenten, die oft tief in der Infrastruktur verankert sind. Zwar bieten diese Bibliotheken eine flexible Grundlage, sie bringen jedoch auch Sicherheitslücken mit, die sich unbemerkt in Produktionssysteme einschleichen können. In den seltensten Fällen ist eine umfassende Kontrolle dieser Abhängigkeiten gegeben.
Die Abbidlung zeigt Sicherheitsherausforderungen und empfohlene Kontrollmechanismen für typische Komponenten eines LLM-gesteuerten KI-Agenten (Quelle: Trend Micro)
Gleichzeitig laufen viele KI-Anwendungen containerisiert – etwa mit Docker oder ähnlichen Lösungen. Der Bericht betont, dass solche Umgebungen typischen Bedrohungen der Cloud-Sicherheit ausgesetzt sind. Angreifer nutzen bekannte Schwachstellen in Basisimages, Runtime-Komponenten oder falsch konfigurierten Containern gezielt aus.
Um die Risiken zu minimieren, empfiehlt Trend Micro unter anderem:
Regelmäßige Schwachstellen-Scans und konsequentes Patch-Management
Vollständige Inventarisierung aller eingesetzten Komponenten, inklusive Drittanbieter-Bibliotheken
Sicherheitsorientierte Container-Konfiguration, etwa durch minimale Basisimages und Runtime-Monitoring
Überprüfung der Netzwerkkonfiguration, um ungewollte Exposition zu vermeiden
Der vollständige State of AI Security Report von Trend Micro für das erste Halbjahr 2025 ist online verfügbar.
.jpg&size=390x230&crop=0&trim=1)
