KI-Agenten: Die Insider-Bedrohung, die keiner sehen will

Erick über Sicherheit bei KI-Agenten. — Erich Kron, CISO Advisor, KnowBe4 KnowBe4

Sprechen Unternehmen von digitalen Identitäten, meinen sie damit schon lange nicht mehr nur ihre menschlichen Angestellten, ihre Dienstkonten, Automatisierungsplattformen und Bots. Denn vor knapp zwei Jahren ist eine neue, ganz andere Art von digitaler Identität hinzugekommen: KI-Agenten.

von Erich Kron, CISO Advisor, KnowBe4

Anders als traditionelle maschinelle Identitäten folgen KI-Agenten keiner starren Befehlsabfolge. Sie operieren eigenständig, autonom. Sie können planen, Tools auswählen, APIs aufrufen, Code generieren, Aufgaben sogar delegieren. Die Bandbreite ihrer Einsatzmöglichkeiten, ihre Eigenständigkeit und ihre häufig sehr weitreichenden Zugriffsrechte machen sie aber auch zu einem Risikoherd mit erheblichem Schadenspotenzial. Zu einem Sicherheitsrisiko, über dessen wahres Ausmaß man sich in den meisten Unternehmen gerade erst klar zu werden beginnt.

KI-Agenten auf dem Vormarsch

Laut einer Cloud Security Alliance-Studie kommen derzeit in 82 Prozent aller Unternehmen KI-Agenten zum Einsatz, von deren Existenz die entsprechenden Cybersicherheits-Teams nicht wissen. Nur 32 Prozent aller Unternehmen, so eine aktuelle CyberArk-Studie, haben Kontrollen zum Management ihrer KI-bedingten Risiken implementiert. Und nur 28 Prozent, so eine aktuelle Keyfactor-Studie, gehen derzeit überhaupt davon aus, verhindern zu können, dass ein KI-Agent in ihrem Ökosystem Schaden anrichtet. Kein Wunder, dass fast zwei Drittel aller befragten Unternehmen im vergangenen Jahr mindestens einen Sicherheitsvorfall zu beklagen hatte, der mit KI-Agenten in Zusammenhang stand; mit teils erheblichen Folgen. 61 Prozent der Vorfälle führten zu Datenlecks, 43 Prozent zu Betriebsstörungen und 35 Prozent sogar zu finanziellen Einbußen.

Autor Erick Kron, Knowbe4

Erick Kron ist CISO Advisor bei KnowBe4 (Website) und blickt auf über 30 Jahre Erfahrung in der Informationssicherheit in den Bereichen Medizin, Luft- und Raumfahrt, Fertigung und Verteidigung zurück. Zuvor leitete er als Security Manager das 2nd Regional Cyber Center–Western Hemisphere der US-Armee und hält mehrere Sicherheitszertifizierungen, darunter CISSP, CISSP-ISSAP und SACP.

Eine zentrale Ursache dieser Sicherheitsvorfälle: die Kompromittierung der KI-Agenten durch einen Angreifer. Weltweit haben sich Prompt Injection, Goal Hijacking, Privilege Escalation und Memory Poisoning innerhalb kürzester Zeit zu beliebten Angriffsvektoren entwickelt. Für die Cybersicherheit eines Unternehmens ist es schwer, solche Attacken rechtzeitig zu erfassen und abzuwehren. Der Angreifer muss keine Zugangsdaten stehlen. Es reicht völlig aus, wenn es ihm gelingt, die Eingaben, die dem KI-Agenten seine Aufgaben zuweisen, zu manipulieren – etwa über präparierte E-Mails, Support-Tickets oder Websites. Erschwerend kommt hinzu: die API-Schlüssel der KI-Agenten sind meist zeitlich unbefristet, ihre Zugangsberechtigungen viel zu weitreichend und ihre Überwachung, in aller Regel, ungenügend. Damit bieten KI-Agenten ideale Voraussetzungen, zur nächsten Insider-Bedrohung zu werden.

Ohne Transparenz läuft nichts

Um dieses Risiko erfolgreich in den Griff zu bekommen, müssen Unternehmen zunächst einmal vor allem eines tun: Transparenz schaffen. Ein Inventar aller im IT-Ökosystem zum Einsatz kommenden KI-Agenten ist in diesem Zusammenhang eine zwingende Notwendigkeit.

Das Prinzip Zero Trust muss konsequent auf sämtliche KI-Agenten angewandt werden. Ein Agent zur Ticket-Zusammenfassung darf keinen Zugriff auf vertrauliche Kundendatenbanken erhalten.“

Darüber hinaus sollten dauerhafte durch temporäre Zugriffsrechte ersetzt werden. Und: um ungewöhnliche KI-Aktivitäten möglichst frühzeitig zu erkennen, sollten Sicherheitsteams von der Überprüfung der Identität eines Agenten zur Überwachung seines Verhaltens übergehen. Entsprechende Lösungen, wie etwa Agent Risk Manager, die Cybersicherheitsteams bei Maßnahmen zur Minimierung der Risiken ihrer KI-Agenten effektiv unterstützen können, sind längst am Markt erhältlich.

Die Cybersicherheit muss sich klar werden, dass KI-Agenten längst einen festen Bestandteil der digitalen Belegschaft ihres Unternehmens bilden. Sie müssen verstehen, dass KI-Agenten anders abgesichert werden müssen als menschliche und Maschinenidentitäten. Leicht können sie manipuliert, zu einem Insider Threat umfunktioniert werden. Hiergegen gilt es sich zu schützen. Mit guten Policies und einer umfassenden Digital Workforce Security, die hilft, alle Teile der neuen digitalen Belegschaft abzusichern; auch die KI-Agenten. Erick Kron, Knowbe4/dk