KI-Governance: Nur jede fünfte Bank hat ihre Modelle ausreichend unter Kontrolle

Die Studie „Why AI at Scale Needs Governance at Speed“ basiert auf der Befragung von 300 Führungskräften aus Banken in 31 Ländern. Durchgeführt wurde sie von SAS gemeinsam mit FT Longitude und Microsoft. Demnach ist Künstliche Intelligenz im Bankensektor schon recht weit verbreitet: Immerhin 82 Prozent der Institute nutzen generative KI, 41 Prozent setzen auf agentenbasierte KI-Systeme (Agentic AI). Einschließlich traditioneller Verfahren wie Machine Learning verwenden praktisch alle befragten Banken KI für Kreditentscheidungen oder Risikobewertungen. Bei 59 Prozent ist die Technologie zumindest teilweise in die Entscheidungsprozesse integriert.

Zu den wichtigsten Einsatzgebieten zählen die Bewertung von Kreditrisiken (63 Prozent) und das Asset and Liability Management (55 Prozent). Allerdings entwickeln sich die Kontrollmechanismen deutlich langsamer als der KI-Einsatz. Demnach verfügt gerade mal jede fünfte Bank über vollständig integrierte AI-Governance-Prozesse. Ein Viertel der Institute hat noch nicht einmal spezifische Richtlinien für das Risikomanagement seiner KI-Modelle etabliert. Besonders deutlich werden die Defizite beim laufenden Betrieb der Systeme. Lediglich 19 Prozent der befragten Banken nutzen ein Echtzeit-Monitoring, um Veränderungen und Abweichungen im Verhalten ihrer KI-Modelle zu erkennen. 42 Prozent haben keine definierten Abschaltmechanismen, sogenannte Kill Switches, mit denen sich problematische Modelle gezielt deaktivieren lassen. Nur 36 Prozent aktualisieren ihre Modelle regelmäßig oder trainieren sie neu.

Bankenaufsicht warnt vor zu schneller KI-Einführung

Hinzu kommt ein Transparenzproblem: Fast zwei Drittel der Banken wären nach eigenen Angaben bereit, ein nicht erklärbares Blackbox-Modell einzusetzen, wenn dieses bessere Ergebnisse oder eine höhere finanzielle Performance verspricht als eine nachvollziehbare Alternative. Gleichzeitig berichten 92 Prozent der Befragten, dass in ihrem Unternehmen mindestens ein Large Language Model außerhalb des bestehenden Governance-Rahmens entwickelt oder eingesetzt wird. Damit entstehen Risiken für die Einhaltung regulatorischer Anforderungen, insbesondere wenn KI-Systeme unmittelbar in Kreditentscheidungen oder andere risikorelevante Prozesse eingebunden werden.

Wenn KI-Systeme falsche Entscheidungen treffen, hat das ganz reale Konsequenzen für die Kunden einer Bank sowie für ihr Image und ihre Profitabilität. Schnelle KI-Einführung allein reicht nicht. Eine funktionierende Governance in Verbindung mit skalierbarer Trustworthy AI schafft erst die Resilienz, Compliance und Verantwortlichkeit, die moderne Banken für den Geschäftserfolg brauchen.“

Anselmo Marmonti, Vice President of Risk, Fraud and Compliance Solutions, SAS

Auch die europäische Bankenaufsicht sieht die Entwicklung kritisch. „Die KI-Ambitionen einer Bank dürfen nicht größer sein als ihre tatsächlichen Governance-Fähigkeiten“, erklärt Marilin Pikaro, Director of Innovation, Conduct and Consumers bei der Europäischen Bankenaufsichtsbehörde EBA. Selbst vielversprechende Anwendungsfälle dürften demnach nicht schneller vorangetrieben werden, als die Institute in der Lage seien, die damit verbundenen Risiken zu beherrschen. Die Ergebnisse verdeutlichen ein grundsätzliches Problem: Während Banken zunehmend KI-gestützte und perspektivisch autonome Entscheidungen anstreben, fehlen vielerorts noch die technischen und organisatorischen Voraussetzungen, um diese Systeme zuverlässig zu überwachen, ihre Entscheidungen nachzuvollziehen und bei Fehlentwicklungen rechtzeitig einzugreifen.tw

 
Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/253992

• teilen 
• teilen 
• teilen 
• teilen 
• teilen 
• RSS-feed 
• E-Mail 
• drucken