Eine aktuelle Untersuchung von Rubrik zeigt erhebliche Defizite bei der Kontrolle autonomer KI-Systeme in Unternehmen. Viele Organisationen setzen Agenten produktiv ein, ohne ausreichende Transparenz, Governance oder Recovery-Mechanismen zu haben. Dadurch entstehen neue Angriffsflächen und Risiken für die IT-Sicherheit.
Foto: Rubrik
Kavitha Mariappan, Chief Transformation Officer bei Rubrik
Der Einsatz von KI-Agenten nimmt in Unternehmen rasant zu. Gleichzeitig wächst die Herausforderung, diese Systeme zu überwachen und abzusichern. Eine aktuelle Studie zeigt, dass viele Organisationen mit der Geschwindigkeit der technologischen Entwicklung nicht Schritt halten können – mit direkten Folgen für Sicherheitsarchitektur, Prozesse und Risikomanagement.
Die Studie basiert auf einer Befragung von mehr als 1.600 IT- und Security-Verantwortlichen. Demnach erwarten 79 Prozent der Befragten in Deutschland und 86 Prozent in der EMEA-Region, dass KI-Agenten bestehende Sicherheitsmechanismen innerhalb eines Jahres überholen werden.
Gleichzeitig geben nur 21 Prozent der deutschen Unternehmen an, vollständige Transparenz über aktive Agenten in ihrer Umgebung zu haben. Diese Diskrepanz führt dazu, dass Systeme Entscheidungen treffen und auf geschäftskritische Daten zugreifen, ohne ausreichend kontrolliert zu werden.
Ein zentrales Problem ist die Ausbreitung sogenannter Non-Human Identities. Diese mit Agenten verknüpften Identitäten wachsen schneller, als Unternehmen sie verwalten können. Die Studie beschreibt diese Entwicklung als „Shadow Workforce“, die häufig mit dauerhaften Zugriffsrechten und minimaler Überwachung arbeitet und damit neue Angriffsvektoren schafft.
Neben Sicherheitsaspekten stellt die Studie auch die Effizienzgewinne durch KI-Agenten infrage. Mehr als 70 Prozent der Befragten in Deutschland berichten, dass der Einsatz von Agenten mehr manuelle Überwachung erfordert, als an Effizienz eingespart wird.
Zudem zeigen sich erhebliche Schwächen bei der Steuerung und Wiederherstellung von Systemen. 94 Prozent der deutschen Unternehmen geben an, dass sie Aktionen von Agenten nicht rückgängig machen können, ohne Störungen zu verursachen.
Auch im Bereich Recovery bestehen Unsicherheiten: 85 Prozent der Führungskräfte äußern Zweifel, ob sie ihre Wiederherstellungsziele angesichts agentenbasierter Bedrohungen erreichen können. Damit rücken Prävention und Wiederherstellung zunehmend in den Mittelpunkt der Sicherheitsstrategie.
Die Studie zeigt, dass sich auch die Angriffslandschaft verändert. Nahezu die Hälfte der Befragten geht davon aus, dass agentische Systeme künftig einen Großteil der Angriffe auslösen werden. Diese Systeme können Angriffe automatisieren, beschleunigen und skalieren.
Kavitha Mariappan, Chief Transformation Officer bei Rubrik, beschreibt die Situation wie folgt:
„Die Einführung von KI läuft schneller als unsere Fähigkeit, sie zu kontrollieren. Unternehmen kämpfen, weil sie Systeme eingeführt haben, die sie nicht vollständig beobachten, steuern oder wiederherstellen können. Wir müssen aufhören darüber zu diskutieren, ob KI riskant ist, und uns der härteren Realität stellen: Wenn Entscheidungen zunehmend von Maschinen getroffen werden, besteht die zentrale Herausforderung für jede Führungskraft darin, operative Sicherheit in einer immer autonomeren Landschaft zu gewährleisten.“
Für Unternehmen bedeutet dies einen grundlegenden Wandel: Sicherheitsstrategien müssen nicht nur Angriffe verhindern, sondern auch die Kontrolle über autonome Systeme sicherstellen. Die Studie zeigt, dass KI-Strategie und Resilienz zunehmend miteinander verknüpft sind und gemeinsam betrachtet werden müssen.
