STRATEGIE23. April 2021

„KI muss sich Vertrauen verdienen“

KI
Peter van der Putten, PegasystemsPegasystems

München, 19. April 2021 – Die Entwicklung von Künstlicher Intelligenz schreitet schnell voran und bietet sowohl der Wirtschaft als auch der Gesellschaft große Chancen. Gleichzeitig ruft KI aber auch Skepsis hervor, bietet sie doch einiges Missbrauchspotenzial. Die EU-Kommission will KI daher strenger regulieren – das zeigt der Entwurf für eine EU-Verordnung, der letzte Woche an die Öffentlichkeit gelangte.

von Peter van der Putten, Director Decisioning & AI Solutions bei Pegasystems und Assistant Professor AI an der Universität Leiden 

Auf 81 Seiten werden dort Regeln und Mindeststandards insbesondere für „Hochrisiko-Anwendungen“ vorgegeben, die Vertrauen schaffen und bestimmte Praktiken eindämmen sollen, etwa die Benachteiligung bestimmter Personengruppen und die Manipulation von Nutzern. Nur in wenigen Bereichen wie der wahllosen und anlasslosen Überwachung sowie beim Social Scoring soll der Einsatz von Künstlicher Intelligenz komplett verboten werden. Dass die EU auf eine Regulierung von KI-Anwendungen drängt, kommt nicht unerwartet. Dafür ist sie einfach zu wichtig und die Weiterentwicklung dieser Anwendungen, guten wie bösen, schreitet zu schnell voran. Selbst die Anbieter von KI-Technologien und Unternehmen, die KI-Lösungen einsetzen, sind inzwischen mehrheitlich der Meinung, dass Selbstregulierung nicht ausreicht:

Klare Regeln und Grenzen würden es tatsächlich leichter machen, in verantwortungsvolle und vertrauenswürdige KI zu investieren.“

Allerdings ist es nicht damit getan, die Akzeptanz von KI durch Regeln und Vorgaben zu stärken – das eigentliche Ziel muss sein, KI fair, transparent und erklärbar zu gestalten, damit sie sich unser Vertrauen wirklich verdient. Schließlich stecken die EU-Vorgaben nur weite Grenzen ab, das heißt, dass weiterhin KI-Anwendungen entwickelt und eingesetzt werden können, die zwar technisch legal sind, aber nicht im Sinne des Kunden arbeiten, sondern nur einseitig Unternehmensinteressen dienen. Hier müssen die Verbraucher für Veränderungen sorgen, indem sie solche KI-Anwendungen meiden, sodass langfristig Lösungen aus ihnen hervorgehen, die zu beiderseitigem Nutzen sind.

Autor Peter van der Putten
Peter van der Putten ist Director Decisioning & AI Solutions bei Pegasystems (Website) und zudem Assistant Professor AI an der Universität Leiden.
Zudem darf die EU nicht nur einen Blick aus der heutigen Perspektive auf KI werfen, sie sollte auch die bisherige und künftige Entwicklung berücksichtigen. Liest man aktuelle Nachrichten rund um KI, entsteht der Eindruck, Künstliche Intelligenz sei mit Machine Learning gleichzusetzen, und hinter Machine Learning stecke immer Deep Learning – also lose an die Funktionsweise des menschlichen Gehirns angelegte Mechanismen. Doch es gibt noch weit mehr Technologien für Machine Learning, darunter auch einige klassische, die vielleicht weniger genau sind, dafür deutlich einfacher, transparenter und robuster. Außerdem geht es bei KI ja nicht nur darum, wie Maschinen lernen, sondern auch wie sie schlussfolgern und entscheiden. Die dafür notwendigen Regeln und Logiken können genutzt werden, um Machine Learning zu kontrollieren, Richtlinien einzuhalten und ethische Standards zu berücksichtigen.

Eine große Herausforderung ist, dass KI längst nicht mehr nur das Sammeln historischer Daten und deren Auswertung mit einem einzigen KI-Modell umfasst. Moderne KI-Systeme bestehen aus hunderten oder gar tausenden solcher Modelle, die ständig hinzulernen. Sie haben keine festen Release-Zyklen für das Entwickeln, Testen und Veröffentlichen – stattdessen entwickeln sie sich kontinuierlich weiter, passen sich an und beeinflussen mit ihren Entscheidungen auch, wo und wie sie weitere Erfahrungen sammeln, sodass sich selbstverstärkende Feedback-Schleifen entstehen können.

Mit Regeln und Vorschriften allein ist es daher nicht getan – es braucht immer auch den Willen des Entwicklers, eine KI fair, transparent und erklärbar zu gestalten.“

Darüber hinaus ist es sicher eine gute Idee, die neuen Regeln und Vorschriften für automatisierte Entscheidungen darauf hin zu überprüfen, ob und inwieweit sie bereits für Entscheidungen gelten, die heute allein von Menschen getroffen werden.Peter van der Putten, Pegasystems

 
Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/119769 
 
1 Stern2 Sterne3 Sterne4 Sterne5 Sterne (2 Stimmen, Durchschnitt: 4,00 von maximal 5)
Loading...

 

(Visited 111 times, 1 visits today)

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Fünf Erfolgsregeln für den Einsatz von KI und ML

Das Interesse am Einsatz von Künstlicher Intelligenz wächst. Doch scheuen manche Unternehmen den Einstieg in diese Technologie, andere scheitern bei den ersten Versuchen. InterSystems hat...

Schließen