SAS-Studie: Banken liegen bei KI-Governance vorn

Banken, die Trustworthy AI aktiv vorantreiben, profitieren am meisten von ihren KI-Investitionen. Dies belegt eine aktuelle globale Studie (Website) von SAS. Der zweiten Auflage des „Data and AI Impact Report: The New Economics of Trust“ liegen Zahlen zugrunde, die das Analystenhaus IDC erhoben hat. Demnach sind Banken im Branchenvergleich Vorreiter bei vertrauenswürdiger KI. Gegenüber dem Vorjahr haben sie ihre Trustworthiness um 12,8 Punkte auf 63,5 Punkte (von insgesamt 100) verbessert. Zudem sind sie am weitesten, was autonome KI angeht: Lediglich etwa ein Drittel (29 Prozent) braucht noch umfängliche menschliche Überprüfung für geschäftskritische Entscheidungen. Der größte Nachholbedarf besteht bei der Dimension Model Governance und Kontrolle: Hier liegt die tatsächliche Vertrauenswürdigkeit noch 10 Punkte hinter der wahrgenommenen.

IDC stuft die Unternehmen in Vorreiter („Leader“ mit einem Trustworthiness-Index von mindestens 80 von 100 Punkten) und Nachzügler („Laggard“ mit weniger als 40 Punkten) ein. 85 Prozent der Vorreiter im Bankensektor haben bereits entsprechende Frameworks aufgebaut, unter den Nachzüglern sind dies lediglich 29 Prozent. Grund ist, dass Vordenker in Sachen KI eine robuste AI Governance als Wettbewerbsvorteil und operative Notwendigkeit sehen. Und 66 Prozent der führenden Finanzinstitute erwarten einen starken ROI, fast sieben Mal so viele wie bei den Nachzüglern.

Ebenso ist bei Vorreiter-Banken die Wahrscheinlichkeit höher, dass sie KI für geschäftskritische Bereiche einsetzen. Unter ihnen nennen 41 Prozent automatisierte Untersuchungen und Case Management als Anwendungsfälle, bei Laggards sind dies erst sieben Prozent. Das zeigt: Sind Vertrauen, Governance und Verantwortung etabliert, lässt sich KI innerhalb progressiver Systeme weitestgehend autonom einsetzen, um Geschwindigkeit und Skalierbarkeit zu verbessern.

Branchenübergreifende Erkenntnisse

Wenn ein Unternehmen Maßnahmen umsetzt, die die Vertrauenswürdigkeit von KI fördern, steigt die Wahrscheinlichkeit, dass ein KI-Projekt profitabel ist, um das 15-Fache. Und es verschafft sich signifikante Wettbewerbsvorteile. Organisationen mit starker Governance, Datenqualität und Auditierbarkeit berichten einen mindestens 100 Prozent höheren ROI aus ihren KI-Implementierungen als diejenigen, die in Sachen Trustworthy AI hinterherhinken.

Wichtige Ergebnisse:

Organisationen, die in Trustworthy AI investieren, erhöhen ihre Chancen auf einen starken ROI für ihre KI-Projekte um den Faktor 15 (62 Prozent gegenüber 4 Prozent).
85 Prozent der „Leader“ erhöhen ihre Investition in vertrauenswürdige KI um mehr als zehn Prozent in diesem Jahr. Damit vergrößern sie aktiv ihren Vorsprung gegenüber Unternehmen, die dies nicht tun.

Wenn KI funktioniert, ist sie unglaublich wirkungsvoll. Allerdings können selbst die besten Agenten bei komplexen Aufgaben Fehlerquoten von mehr als 25 Prozent haben – und das ist inakzeptabel bei Entscheidungen, bei denen viel auf dem Spiel steht. Um Präzision und Wiederholbarkeit sicherzustellen, müssen Organisationen Fachwissen in agentische Workflows einbauen sowie Governance und Kontrolle in den Händen von Mitarbeitenden belassen. Diejenigen, die darin erfolgreich sind, schließen die Vertrauenslücke und ziehen einen echten Wettbewerbsvorteil aus KI.“

Bryan Harris, CTO von SAS

Intransparente KI wird zum echten Geschäftsproblem

Mitarbeiter haben häufig Bedenken, sich auf Systeme zu verlassen, die nicht sicher korrekte Ergebnisse liefern oder erklären können, wie die KI zu der finalen Entscheidung kommt. Je autonomer KI eingesetzt wird, desto schwerer wiegt diese Herausforderung. Erklärbarkeit wird zum kritischen Erfolgsfaktor.

Das mangelnde Vertrauen kann Mitarbeiter dazu bringen, sich über KI-basierte Entscheidungen hinwegzusetzen und manuelle Korrekturen vorzunehmen. Dadurch verfestigt sich das Defizit an vertrauenswürdiger KI noch, und Unternehmen verlieren Zeit, Produktivität und Profitabilität.

Wichtige Ergebnisse:

Rund 97 Prozent der Anwender verwerfen KI-generierte Empfehlungen zumindest manchmal.
Der Hauptgrund, KI-Ergebnisse zu ignorieren, ist die nicht nachvollziehbare Herleitung der Ergebnisse (34,5 Prozent).
Generative AI (ChatGPT, Gemini, Claude etc.) genießt mehr Vertrauen (76 Prozent) als KI-Agenten (66 Prozent). Dies weist darauf hin, dass Bedenken mit wachsender Autonomie von KI-Systemen zunehmen.

Schwache Datengrundlage führt zu Zeit- und Geldverlust

Die meisten Unternehmen implementieren KI auf mangelhaften oder überholten Daten und Infrastrukturen. Das Fehlen einer soliden Datenbasis verhindert die effektive Steuerung von KI und damit die Wertschöpfung daraus.

Wichtige Ergebnisse:

Nicht einmal jedes fünfte Unternehmen (17,5 Prozent) hat seine Dateninfrastruktur umfassend optimiert, sodass diese den Anforderungen von KI-Agenten entspricht.
Organisationen mit optimierter Datengrundlage haben eine vier Mal höhere Aussicht auf einen starken ROI aus KI-Projekten.

Über die Studie

Für die Studie (Website) wurden weltweit rund 2.700 Entscheider in 28 Ländern befragt, die im Unternehmen mit Daten- und KI-Initiativen zu tun haben. Dabei wurde Jede Organisation anhand von fünf Kriterien bezüglich Trustworthy AI bewertet: Datenqualität und Governance, Model Governance und Kontrolle, Erklärbarkeit und Fairness, Richtlinien für verantwortungsvolle KI, Auditierbarkeit und Verantwortlichkeit.pp