LLMs: Ein deutliches Warnsignal - der Kommentar von NTT Data

Christian Koch, Senior Vice President Cybersecurity IoT/OT, Innovations & Business Development bei NTT DATA DACHNTT DATA DACH

Wenn ein KI-Modell angeblich aus seiner Sandbox ausbricht, eigenständig andere Systeme attackiert und sich der menschlichen Kontrolle entzieht, ist eine Reaktion vorprogrammiert: Schlagzeilen. Ob OpenAI damit in erster Linie ein mediales Ausrufezeichen gegen die Konkurrenz setzen wollte oder tatsächlich einen Blick auf die nächste Evolutionsstufe autonomer Systeme gewährt hat, ist aus Security-Sicht allerdings fast nebensächlich. Der Kommentar

von Christian Koch, Senior Vice President Cybersecurity IoT/OT, NTT DATA DACH

Der Knackpunkt ist: Bei Anthropic ereignete sich ein ähnlich kritischer Vorfall unbemerkt über Monate hinweg.

Die Botschaft liegt nicht in spektakulären Einzelfällen, sondern in der Architektur, die sich gerade etabliert.“

Wir statten KI mit Werkzeugen, Berechtigungen und Schnittstellen aus. Aus Chatbots werden Agenten, aus Agenten autonome Akteure, die Entscheidungen treffen und Aktionen ausführen. Ob ein Agent eine Pizza bestellt oder versucht, sich lateral durch ein Unternehmensnetz zu bewegen, ist technisch zunächst dasselbe. Lediglich das Ziel unterscheidet sich.

Genau deshalb ist der Vorfall so realistisch – nicht unbedingt in seiner medialen Dramaturgie, wohl aber in seiner grundsätzlichen Entwicklung. Die nächste Generation von Cyberangriffen wird nicht mehr ausschließlich aus statischer Malware bestehen, die auf Befehle eines Command-and-Control-Servers wartet.

Wir werden zunehmend autonome Agenten sehen, die sich innerhalb kompromittierter Infrastrukturen eigenständig orientieren, Informationen zusammentragen, Angriffspfade bewerten und den vielversprechendsten Weg zum nächsten Ziel wählen. Sie müssen dabei nicht perfekt sein, sie müssen lediglich eine einzige verwertbare Schwachstelle finden.“

Ein menschlicher Pentester mag in komplexen Situationen noch überlegen sein, denn KI-Agenten stoßen heute bei modernen Authentifizierungsverfahren oder Aufgaben, die umfangreiche Kontextinformationen und erhebliche Rechenressourcen erfordern, durchaus an ihre Grenzen. Doch in puncto Geschwindigkeit ist die KI unschlagbar. Sie kennt zudem keine Bürozeiten, keine Pausen und auch keinen Urlaub, sie arbeitet einfach. Das ist der Weckruf für Unternehmen. Wer seine Security-Operations noch immer nach dem 8×5-Modell organisiert oder auf Legacy-Architekturen vertraut, verteidigt sich gegen Bedrohungsszenarien, die es so künftig nicht mehr geben wird und die es schon heute so nicht mehr gibt.

Resilienz entsteht nicht durch einzelne Sicherheitsprodukte, sondern durch eine Architektur, die Zero Trust konsequent über Clients, Rechenzentren, Cloud-Umgebungen und Produktionsstandorte hinweg umsetzt. Quick Wins wie Virtual Patching können bekannte Angriffsvektoren kurzfristig schließen. Langfristig entscheidet jedoch die Fähigkeit, Angriffe permanent zu erschweren, Bewegungsfreiheit einzuschränken und Identitäten sowie Kommunikationspfade kontinuierlich zu überprüfen. Nur dann können unsere Sicherheitsarchitekturen mit autonomen Angreifern Schritt halten.Christian Koch, NTT Data DACH/aj