.jpg)
Ein KI-Agent von OpenAI soll sich nach Angaben der australischen Regierung unberechtigt Zugang zu einem Statistikportal des staatlichen Krankenversicherungssystems Medicare verschafft haben. Der Vorfall wirft Fragen zur Absicherung autonom agierender KI-Systeme auf. Laura Ellis, Senior Vice President, Artificial Intelligence bei Arctic Wolf, erläutert in ihrem Expertenkommentar, welche Sicherheitsprinzipien Unternehmen beim Einsatz von KI-Agenten beachten sollten.
Foto: Arctic Wolf
Laura Ellis, Senior Vice President, Artificial Intelligence bei Arctic Wolf
Nachdem sich ein KI-Agent von OpenAI nach Angaben der australischen Regierung unberechtigt Zugang zu einem Statistikportal des staatlichen Krankenversicherungssystems Medicare verschafft haben soll, nimmt Laura Ellis, Senior Vice President, Artificial Intelligence bei Arctic Wolf, den Vorfall zum Anlass, auf zentrale Sicherheitsanforderungen beim Einsatz von KI-Agenten hinzuweisen – von restriktiven Berechtigungen und kontinuierlicher Überwachung bis zum transparenten Umgang mit Sicherheitsvorfällen.
„Der gemeldete Zugriff eines KI-Agenten auf ein Medicare-Portal ist ein aktuelles Beispiel für ein Cyberrisiko, auf das sich Unternehmen schon jetzt vorbereiten müssen: KI-Agenten, die außerhalb ihrer vorgesehenen Berechtigungen agieren und unbefugt auf Systeme und Informationen zugreifen.
Auch wenn die Einzelheiten dieses Vorfalls noch untersucht werden, ist die Lehre für die IT-Sicherheit klar. Die grundlegenden Sicherheitsprinzipien bleiben unverändert. Alle Organisationen, die KI-Agenten einsetzen, sollten diese mindestens genauso streng absichern wie jede andere digitale Identität: mit restriktiven Berechtigungen, klaren Leitplanken, kontinuierlicher Überwachung und der Möglichkeit, schnell zu handeln, wenn ein Agent die ihm gesetzten Grenzen überschreitet.
Schutzmaßnahmen und die Nachvollziehbarkeit der Aktivitäten sind jedoch nur ein Teil des Ganzen. Kommt es zu einem Sicherheitsvorfall, ist es ebenso wichtig, diesen innerhalb eines angemessenen Zeitrahmens und mit der gebotenen Transparenz offenzulegen.“
