Bafin prüft Banken-KI: Kein Go‑live ohne Systeminventar, Risikoklasse und Audit Trail

Die neue Aufsichtsstruktur für KI-Systeme im Finanz- und Versicherungssektor setzt die Branche zunehmend unter Druck. Vielen Unternehmen fehlen nämlich eine solide Grundlage sowie eine passende Strategie, um den strengen Auflagen der Bafin überhaupt gerecht zu werden. Das müssen sie nun schleunigst nachholen.

von Michael Baldauf, Financial Services Senior Director bei Pegasystems, und Uwe Specht, Prinicple Specialist Solution Consultant bei Pegasystems

Seit dem 29. Juli 2026 ist die Bundesanstalt für Finanz­dienst­leistungs­aufsicht – kurz: Bafin – die zentrale Marktüberwachungsbehörde für KI-Systeme, die in direktem Zusammenhang mit regulierten Finanztätigkeiten stehen.

Das Spektrum der Anwendungen reicht von Chatbots im Kundenservice bis hin zu traditionellen Machine-Learning-Tools aus den frühen 2010er-Jahren. Für KI-Systeme ohne Finanzbezug, wie sie viele Unternehmen etwa im Personalmanagement einsetzen, bleibt die Bundesnetzagentur zuständig und bestehende Fachaufsichten arbeiten unverändert weiter.

Für Finanzdienstleister und Versicherer besteht daher ab sofort die Pflicht, KI-Anwendungen zu erfassen, die direkt oder indirekt eine regulierte Finanztätigkeit beeinflussen. Sie müssen zudem deren Risiko bewerten und den Einsatz lückenlos dokumentieren.

Das Fundament: Inventar und Klassifizierung

Der Ausgangspunkt jeder Compliance-Strategie ist daher ein vollständiges Register aller eingesetzten KI-Systeme. Ohne dieses Inventar lässt sich weder eine Risikoeinschätzung vornehmen noch gegenüber der Bafin belegen, dass das Unternehmen seinen Pflichten nachkommt.

Der Name des Tools oder der Technologie genügt allerdings nicht. Auch Version, Stakeholder sowie der spezifische Zweck und das Einsatzdatum müssen dokumentiert werden.“

Auf Basis dieses Registers erfolgt die Klassifizierung in vier Kategorien: Verbotene Systeme sammeln schützenswerte Daten oder führen zu ungerechtfertigter Benachteiligung, etwa ein abgelehnter Kredit aufgrund von Herkunft oder Religion. Hochrisiko-Systeme betreffen Kreditvergabe und -würdigkeit, Risikobewertung bei Lebens- oder Gesundheits­versicherungen, Kundensegmentierung mit Auswirkung auf den Kreditzugang sowie andere Systeme mit Diskriminierungs­potenzial. Transparenzsysteme wie Chatbots, virtuelle Assistenten oder automatisierte Empfehlungen müssen klar als KI gekennzeichnet sein.

Systeme mit niedrigem Risiko haben keine direkten Auswirkungen auf regulierte Finanztätigkeiten, etwa die prädiktive Wartung der IT-Infrastruktur.“

Als Faustregel gilt: Beeinflusst ein System eine regulierte Entscheidung oder interagiert es direkt mit Kunden, gehört es ins Register. Entscheidend ist allein der Anwendungsfall und nicht, ob es sich um ein selbst trainiertes Modell oder ein kommerzielles Sprachmodell handelt.

Blinde Flecken: Wo Banken KI übersehen

Die größte Herausforderung sind blinde Flecken, die schnell entstehen können. So enthalten viele Systeme, die bereits länger im Einsatz sind, KI, werden aber nicht als solche wahrgenommen. Etwa weil sie nicht generativer Natur sind oder nicht modernsten Interpretationen von KI entsprechen. Doch auch statische Modelle sind KI, wenn sie dazulernen oder automatisiert innerhalb eines gesetzten Rahmens agieren. Diese Legacy-Systeme fallen regelmäßig durch das Raster einer ersten Bestandsaufnahme, weil sie im Alltag schlicht als „das Scoring-Tool“ oder „die Regel-Engine“ bekannt sind. Ein zweiter blinder Fleck betrifft Infrastruktur-KI: Gebäudetechnik, Zutrittskontrollen oder Netzwerksteuerungen enthalten zunehmend KI-Komponenten, gelten aber nicht als bankfachlich relevant und werden deshalb oftmals übersehen. Da diese Systeme oft schwächer abgesichert sind als klassische Bankanwendungen, stellen sie ein Sicherheitsrisiko dar, auch wenn sie keine unmittelbare Finanzentscheidung treffen.

Als Faustregel sollten Banken und Versicherer daher alles, was sie im OpRisk als Risiko für den Betrieb betrachten, auch auf Auswirkungen auf regulierte Finanztätigkeiten überprüfen.“

Der dritte und am schwersten kontrollierbare Bereich ist Schatten-KI: Mitarbeiter nutzen ChatGPT oder Claude, ohne dass IT oder Compliance davon erfahren. Das Problem ist einerseits der potenzielle und selbstinduzierte Abfluss hochsensibler Daten. Andererseits ist eine technische Vollerfassung im Sinne der neuen Bafin-Anforderungen praktisch unmöglich. Unternehmen können Schatten-KI nur vorbeugen, indem sie Sensibilisierungskurse veranstalten, ihre Mitarbeiter über die Risiken und die Folgen umfangreich aufklären und deren Painpoints ernst nehmen. Schnelle, klar geregelte Freigabe- und Risikobewertungsprozesse für neue KI-Tools helfen, die Nutzung nicht-sanktionierter Anwendungen zu vermeiden.

Bafin-gerecht: Unternehmen müssen jetzt handeln

All das verdeutlicht einen dringenden Handlungsbedarf. Um Strafen zu vermeiden, sollten Finanzinstitute nun umgehend einen zwei- bis vierwöchigen Discovery-Sprint durchführen. Für jedes System müssen sie mindestens System-ID, Owner, Technologie, Trainingsdaten, Entscheidungslogik und Audit Trail dokumentieren. Zuerst beginnen sie mit den zehn kritischsten Anwendungen, etwa Credit Scoring, Fraud, AML und Kunden-Chatbots. Dann sollten sie das Register systematisch um Vendor-KI, Cloud-Services und Legacy-Scoring-Modelle erweitern. Für Hochrisiko-Systeme muss daraus eine belastbare wie technische Systemakte entstehen. Sie sollte Zweck, Trainingsdaten, Performance-Metriken, bekannte Limitationen, Bias-Tests, Human Oversight und Audit Trail enthalten. Bei klassischen ML-Modellen gehören Kennzahlen wie Accuracy und Fehlerraten je Kundengruppe dazu, ergänzt um Fairness- und Robustheitstests, Drift-Monitoring sowie Erklärbarkeits-Verfahren wie SHAP-Werte.

Bei agentenbasierter KI wird die technische Nachweiskette noch wichtiger.“

Pro Interaktion sollten Modell, Modellversion, Prompt, Input, Output, die Kommunikation mit externen Tools oder anderen KI-Agenten und Parameter wie die Temperatur nachvollziehbar sein. Unternehmen sollten diese Dokumentation um gut strukturierte und manuell versionierte Testfälle (Golden Records) ergänzen. Automatisiertes Testing wird mittel- und langfristig ebenfalls eine Rolle spielen, kurzfristig sind manuelle Testverfahren allerdings (noch) unabdingbar. Entscheidend ist dabei allerdings nicht, dass ein Modell immer dieselbe Antwort produziert.

Wichtig ist vielmehr, dass nachvollziehbar bleibt, unter welchen Rahmenbedingungen ein Ergebnis entstanden ist und ob es innerhalb der definierten Policys und Qualitätsgrenzen liegt.“

Diese Nachweiskette sollten Unternehmen möglichst direkt in die technische Infrastruktur integrieren, ihre Regularien für das Software-Deployment anpassen und Model Registry, Code-Repository, Deployment-Pipeline sowie Monitoring mit dem Governance-Prozess verbinden. Wichtige Regeln in dem Zusammenhang sind:
1. Kein Go-Live ohne Inventory-Eintrag, Risk Assessment und dokumentierte Freigabe
2. Keine Modelländerung ohne versionierten Change Log
3. Kein kritischer Betrieb ohne Monitoring und Eskalationspfad

Hochrisiko-Systeme nicht erst 2027 bedenken

Bis zum 2. Dezember 2027 greifen außerdem die vollständigen Anforderungen an Hochrisiko-KI-Systeme. Besonders wichtig ist daher auch jetzt schon die Betriebsorganisation. Unternehmen sollten nicht bis zur Compliance-Frist warten, sondern bereits jetzt Baseline-Metriken, Trainingsdaten-Audits, Modelländerungen, Fehlerfälle und Kundenbeschwerden erfassen. So entsteht frühzeitig ein revisionssicherer Verlauf, der spätere und aufwändige Rekonstruktionen erspart.

Ziel sollte deshalb kein statisches KI-Register sein, sondern eine laufend aktualisierte technische Kontrollschicht, die Use Cases, Modelle, Daten, Entscheidungen, Änderungen und Monitoring miteinander verknüpft.“

Die Verbindung von Inventar, Risiko, Governance und technischer Evidenz macht aus „KI-Compliance“ einen im Prüfungsfall belastbaren Betriebsprozess. In der Praxis hat sich zudem ein zentrales Steuerungsgremium bewährt, typischerweise angesiedelt bei der Compliance-Funktion, das Freigaben erteilt, Risikobewertungen bündelt und als Eskalationsinstanz dient.
Die neue Aufsichtsstruktur ist ein Lernprozess für Institute wie für die Bafin gleichermaßen. Klar ist schon jetzt: Wer frühzeitig ein vollständiges Inventar aufbaut, Testprozesse etabliert und Governance-Strukturen schafft, reduziert nicht nur regulatorisches Risiko, sondern schafft die technische Grundlage, KI im Finanzsektor verantwortungsvoll und mit Rechtssicherheit zu skalieren. Michael Baldauf, Pegasystems und Uwe Specht, Pegasystems