Neue Kompetenzen: Bafin überwacht künftig KI-Systeme im Finanzsektor

Ein Monitor zeigt ein Dashboard der BaFin zur Überwachung von KI-Systemen im Finanzsektor. Die Anzeige umfasst Risikobewertungen, aktuelle Meldungen und eine Übersicht über verschiedene Anwendungsbereiche von KI, einschließlich Kreditvergabe und Kundenservice. — KI, DALL-E

Die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) überwacht künftig KI-Systeme von Unternehmen des Finanzsektors. Wie die Behörde mitteilt, sollen damit Innovationen gefördert und Grundrechte geschützt werden.

Der deutsche Gesetzgeber erweitert das Mandat der Bafin. Die Behörde übernimmt zukünftig die Marktüberwachung für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen.

Die neue Zuständigkeit erstrecke sich auf Kreditinstitute, Versicherer und andere Finanzunternehmen unter Aufsicht der Bafin. Grundlage ist das Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz, das bereits in Kraft getreten ist.

Aufgrund ihres neuen Mandats werde die Bafin zukünftig überwachen, ob die beaufsichtigten Unternehmen die Anforderungen der KI-Verordnung einhalten.

Marktüberwachungsbehörde für KI-Systeme

Die Marktüberwachung der Bafin umfasse zum Beispiel die Transparenzpflichten für KI-Systeme, die unmittelbar mit Menschen interagieren. Dabei gehe es etwa um Chatbots in der Kundenkommunikation. Die Behörde werde zudem die Einhaltung der Regelungen der KI-Verordnung zu verbotenen KI-Praktiken überwachen.

Außerdem umfasse die Marktüberwachung Hochrisiko-KI-Systeme. Dabei handelt es sich beispielsweise um Systeme, die Banken in der Kreditwürdigkeitsprüfung einsetzen oder die Versicherer für die Risikobewertung in der Lebens- und Krankenversicherung nutzen.

Mark Branson, Präsident der Bafin — Bafin

Die KI-Verordnung ergänzt die bestehende Regulierung des Finanzmarktes. Sie schafft einen Rahmen, in dem Unternehmen Innovationen verantwortungsvoll vorantreiben können. Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden. Die Bafin wird zum Beispiel dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.“

Mark Branson, Bafin-Präsident

Die Bafin (Website) werde die Marktüberwachung für KI-Systeme eng mit ihrer laufenden Unternehmensaufsicht abstimmen. Beim Einsatz von KI seien Transparenz, Diskriminierungsfreiheit und ein wirksames Risikomanagement zentral, ergänzt Branson.

Entscheidungen müssten weiterhin von Menschen korrigiert und rückgängig gemacht werden können. Die Verantwortung für den Einsatz von KI liege bei den beaufsichtigten Unternehmen und ihren Geschäftsleitungen.

Ab wann die Transparenzpflichten gelten

Die ersten Transparenzpflichten der KI-Verordnung gelten ab dem 2. August 2026. Ab dem 2. Dezember 2027 greifen die Anforderungen an Hochrisiko-KI-Systeme. Die Marktüberwachung der Bafin beschränkt sich auf KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. Andere KI-Anwendungen, etwa im Personalmanagement von Finanzunternehmen, fallen in den Zuständigkeitsbereich der Bundesnetzagentur. Bei Verstößen gegen die KI-Verordnung können Bußgelder verhängt werden.

„Wir erwarten von den Unternehmen, dass sie sich ausführlich mit der KI-Verordnung auseinandersetzen.“ Wir alle haben das gleiche Ziel: KI soll einen Mehrwert stiften. Dafür müssen die Modelle sicher und fair gestaltet sein“, betont Mark Branson.dw

Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/248365

Marktüberwachungsbehörde für KI-Systeme

Schreiben Sie einen Kommentar Antwort abbrechen