Bias in KI erkennen und reduzieren: IDnow bringt Forschungserkenntnisse in die Praxis

Das EU-geförderte Projekt MAMMOth (Multi-Attribute, Multimodal Bias Mitigation in AI Systems) hat nach drei Jahren in Arbeit einige Ergebnisse zur Verringerung von Verzerrungen in KI-Systemen veröffentlicht. Gefördert durch das EU-Programm Horizon Europe vereine das Projekt Organisationen aus Wissenschaft, Wirtschaft und Gesellschaft aus ganz Europa. IDnow sei als Industriepartner an der Umsetzung beteiligt gewesen und will die Erkenntnisse jetzt in die Praxis umsetzen.

Gesichtserkennung mithilfe künstlicher Intelligenz komme zunehmend für die Identitätsprüfung im Internet zum Einsatz, beispielsweise bei der Eröffnung eines Bankkontos oder der Registrierung für Carsharing. Dazu könnten Personen ein Bild ihres Gesichts aufnehmen und eine KI gleiche dieses dann mit dem Ausweisfoto ab. Solche Systeme können laut Studie jedoch Bias aufweisen, die bei bestimmten demografischen Gruppen zu schlechteren Ergebnissen führen sollen.

Im Rahmen von MAMMOth (Website) habe IDnow als Unternehmen mit starkem Fokus auf Identity-Lösungen daran gearbeitet, solche Verzerrungen in der Gesichtserkennung zu identifizieren und zu minimieren.

Forschungsprojekte wie MAMMOth sind entscheidend, um die Lücke zwischen wissenschaftlicher Innovation und praktischer Anwendung zu schließen. Durch die Zusammenarbeit mit führenden Expertinnen und Experten konnten wir unsere Technologie gezielt weiterentwickeln und gerechter gestalten.“

Montaser Awal, Director of AI & ML bei IDnow

Technologischer Fortschritt mit messbarem Impact

IDnow (Website) habe jetzt Ansätze entwickelt, um Verzerrungen im Gesichtserkennungsalgorithmus zu reduzieren und teste dazu Methoden zur Bias-Mitigation, die von anderen Projektpartnern vorgeschlagen wurden.

Da Ausweisfotos häufig von den ausstellenden Behörden farblich angepasst werden, könne beispielsweise der Hautton eine herausfordernde Rolle spielen, insbesondere wenn die Kalibrierung nicht für dunklere Hauttöne optimiert sei. Eine solche Fehlkalibrierung könne zu Unstimmigkeiten zwischen einem Selfie-Bild und dem Aussehen der Person auf einem Ausweisfoto führen.

Um das Problem zu lösen, verwende IDnow eine Style-Transfer-Methode, die den Trainingsdatensatz erweitere. Dadurch sei das Modell widerstandsfähiger gegenüber unterschiedlichen Bedingungen geworden – und die Verzerrung zulasten dunklerer Hauttöne seien deutlich reduziert worden.

Tests auf öffentlichen und unternehmenseigenen Datensätzen würden zudem zeigen, dass sich durch die neue Trainingsmethode eine Steigerung der Verifikationsgenauigkeit um acht Prozent erzielen ließe – bei gleichzeitig nur 25 Prozent des ursprünglichen Trainingsdatenvolumens. Noch bedeutender: Der Genauigkeitsunterschied zwischen Personen mit hellerer und dunklerer Hautfarbe sei um über 50 Prozent reduziert worden.ft