Was ist Agentic-AI? Was bedeutet es für BFSI? Revolution oder Risiko? Das nächste große Ding nach GenAI!

Agentic-AI bezeichnet ein KI-System, das über ein gewisses Maß an Autonomie verfügt, um eigenständig agieren sowie bestimmte Ziele erreichen zu können. Und es gilt als die nächste Revolutions-Stufe nach KI. Für Banken, Versicherer und FinTechs (BFSI) sollen sie erheblich verbesserten automatisierten Handel, Betrugs­erkennungs­systeme und Kundenservice bringen. Doch gleichzeitig müssen sie sich auch Heraus­forderungen im Hinblick der IT-Sicherheit, Verletzungen von Urheberrechten, Anforderungen an die Compliance sowie Anfälligkeiten für Fehler stellen. Das Dossier

von Otto Geißler, IT-Journalist

Verglichen mit herkömmlichen KI-Modellen, die auf Eingabeaufforderungen reagieren oder vordefinierte Aufgaben ausführen, kann Agentic-AI selbstständig Entscheidungen treffen, Aktionen planen als auch aus Erfahrungen lernen.

Die Technologie ist darauf ausgelegt, komplex-strukturierte, mehrstufige Probleme zu bewältigen, indem sie mögliche Optionen bewertet und ihr Verhalten anpasst, um bestimmte Ziele zu erreichen. Zu diesem Zweck werden große Sprachmodelle (LLMs), maschinelles Lernen (ML) und natürliche Sprachverarbeitung (NLP) kombiniert, um sogenannte „autonome Agenten“ zu erstellen, die Daten analysieren, Ziele setzen und mit minimaler menschlicher Kontrolle handeln.

Wesentliche Vorteile

Mithilfe der Agentic-AI lässt sich eine Vielzahl von Finanzprozessen automatisieren und optimieren – von der Betrugserkennung und Kreditgenehmigung bis hin zum Kunden-Onboarding und der Dokumentenprüfung. Dies reduziert den Bedarf an menschlichem Eingreifen, minimiert Fehler und beschleunigt die Prozesse.

Somit kann Agentic-AI Entscheidungen in Echtzeit treffen, wie beispielsweise Dateien neu formatieren oder sensible Daten an sichere Orte verschieben.”

Des Weiteren ist Agentic-AI dazu in der Lage, Kundendaten zu analysieren sowie maßgeschneiderte Finanzberatungen, Anlageempfehlungen und Bonitätsbewertungen bereitzustellen.

Das System bietet eine maßgeschneiderte Finanzberatung und –verwaltung, indem es nicht nur auf Kundenwünsche adäquat reagiert, sondern auch Kundenbedürfnisse antizipiert. Zudem steigern Personalisierungen die Kundenzufriedenheit und -treue.”

Die Agentic-AI bewertet kontinuierlich Kreditrisiken, indem sie Echtzeit-Transaktionsdaten, Trends und Indikatoren mit einbezieht. Dies ermöglicht schnellere und präzisere Risikobewertungen und führt zu dynamischen Kreditmodellen, die sich in Echtzeit anpassen lassen. Mithilfe der Technologie ist es auch möglich, Jahresabschlüsse selbstständig zu scannen und mit Compliance-Vorschriften abzugleichen, um Anomalien sofort zu erkennen. Dies reduziert den Aufwand für Routineprüfungen für Prüfer und ermöglicht es ihnen, sich auf wertvollere strategische Erkenntnisse zu konzentrieren.

Ferner ist Agentic-AI dazu in der Lage, Portfolios zu verwalten, indem sie Markttrends kontinuierlich analysiert und Strategien in Echtzeit an Marktveränderungen und Kundenpräferenzen anpasst.

Da Agentic-AI betrügerische Transaktionen in Echtzeit erkennt und verhindert, macht sie die Systeme nicht nur sicherer, sondern reduziert auch den manuellen Aufwand für das Personal.”

Dafür analysiert die Technologie große Datenmengen, um verdächtige Muster zu detektieren und sofort Maßnahmen einzuleiten wie beispielsweise Blockierung von Transaktionen.

Nachteile und Risiken

Die Einführung von Agentic-AI bringt verschiedene Herausforderungen mit sich, dazu gehören unter anderem technische, sicherheitsbezogene und Compliance-Probleme. Zunächst müssen sich Betreiber auf erhebliche Vorabinvestitionen in Hardware, Infrastruktur und spezialisierte Fachkräfte einstellen.

Die Integration von Agentic-AI in bestehende Systeme kann häufig wegen veralteter APIs und unterschiedlicher Datenformate Probleme bereiten und erhebliche Anpassungen für einen reibungslosen Betrieb erfordern. Zudem verlangt Agentic-AI nach hochwertigen, relevanten und aktuellen Daten. Dafür sind wiederum robuste Datenstreaming-Plattformen und eine kontinuierliche Datenvalidierung notwendig.

Die Komplexität der Agentic-AI-Interaktionen kann das menschliche Personal überfordern und die Steuerung und Kontrolle der Aktionen erschweren. Dies führt unter Umständen zu Sicherheitslücken.

Agentic-AI ist auch anfällig für ein missbräuchliches Verhalten, bei dem Agenten im Auftrag von Usern unbefugte Aktivitäten ausführen. Dies ist der Fall, wenn zum Beispiel schädliche Daten in das System eingespeist werden.”

Schwachstellen dieser Art lassen sich leicht für Code-Angriffe und Rechteausweitungen ausnutzen. Ferner könnten Hacker-Angriffe die Intention der Agentic-AI manipulieren und Aktionen auslösen, die den beabsichtigten Zielen zuwiderlaufen. Als Konsequenz drohen unter Umständen erhebliche Sicherheitsverletzungen und Betriebsstörungen.

Agentic-AI sammelt mitunter Online-Inhalte (Content Scraping) ohne korrekte Quellenangabe. Dies kann zu Urheberrechtsverletzungen und empfindlichen Umsatzeinbußen führen. Eine Vielzahl an Compliance-Herausforderungen ergibt sich aus der Notwendigkeit, eine Reihe von Gesetzen und Vorschriften einzuhalten, darunter solche zum Verbraucher- und Datenschutz.

Präventive Maßnahmen

Als robuste Sicherheitsmaßnahmen empfiehlt sich eine Reihe von Schutzmaßnahmen. Dazu gehören zwingend eine sichere Verschlüsselung sensibler Daten und strenge Zugriffskontrollen, um Datenschutzverletzungen und unbefugten Zugriff zu verhindern. Das Risiko von Missbrauch und unbeabsichtigter Folgen lässt sich mit der Durchsetzung ethischer Richtlinien und der Gewährleistung, dass Agentic-AI innerhalb definierter Grenzen agieren darf, minimieren.

Eine kontinuierliche Überwachung der Agentic-AI und ihren Interaktionen ist notwendig, um neu auftretende Bedrohungen rechtzeitig zu erkennen und darauf reagieren adäquat reagieren zu können.”

Dazu gehören regelmäßige Aktualisierungen und Validierungen von KI-Modellen, um deren Genauigkeit und Sicherheit zu gewährleisten.

Eine profunde Evaluierung bzw. Modellierung von Risiken für agentenbasierte Architekturen hilft dabei, potenzielle Angriffsvektoren und Schwachstellen zu identifizieren. Dazu gehören die Analyse der Umgebung, in der Agentic-AI operiert, und die Implementierung spezifischer Maßnahmen zur Behebung identifizierter Risiken. Die Etablierung klarer KI-Governance-Rahmenwerke unterstützt die Betreiber dabei, die mit der Technologie verbundenen Risiken zu managen. Rahmenwerke dieser Art sollten Datenschutzrichtlinien, Notfallreaktionspläne und eine Überwachung durch qualifiziertes Personal umfassen. Otto Geißler