Studie  “Was Verbraucher wirklich über KI denken”: Verbrauchern fehlt Vertrauen in KI – KI fehle Empathie

Was trauen die Verbraucher Künstlicher Intelligenz (KI) zu? Sehr wenig – sagt die Studie von Pega-Systems. Verbraucher verstünden nicht, inwieweit sie ihre Interaktionen mit Unternehmen besser und effizienter gestalten kann. Das ist das Ergebnis einer aktuellen Studie “Was Verbraucher wirklich über KI denken” vom Forschungsunternehmen Savanta im Auftrag von Pegasystems (5.000 Verbraucher zu KI, Moral, ethischem Verhalten und Empathie).

Obwohl KI die maßgeschneiderten, relevanten Ergebnisse liefert, nach denen die Menschen verlangen, seien viele Verbraucher noch nicht von den Vorteilen der Technologie überzeugt. Viele Unternehmen setzen KI ein, um “das Kundenerlebnis” zu verbessern.

Deshalb ist es für Unternehmen wichtig, die Wahrnehmungen, Anliegen und Präferenzen ihrer Kunden zu verstehen und ernst zu nehmen.

Unsere Studie hat ergeben, dass nur 25% der Verbraucher einem KI-System vertrauen würden, das über einen Bankkredit entscheidet, den sie haben wollen. Die Verbraucher bevorzugen es, mit einem Menschen zu sprechen, weil sie ihm stärker vertrauen und glauben, seine Entscheidung beeinflussen zu können. Wir brauchen KI-Systeme, die fähig sind, Unternehmen bei ethischen Entscheidungen zu unterstützen. Bei der Vergabe eines Bankkredits heißt das: Es ist nicht nur wichtig, alle regulatorischen Prozesse genau zu befolgen. Das Bankinstitut muss sich auch die Frage stellen, ob es ethisch richtig ist, ein Darlehen an einen bestimmten Menschen zu vergeben.”

Dr. Rob Walker, Vice President, Decisioning and Analytics Pega

Zu den wichtigsten Ergebnisse der Studie zählen laut Pega:

1. Verbraucher urteilen zynisch über die Unternehmen, mit denen sie Geschäfte machen
68% der Befragten gaben an, dass Unternehmen verpflichtet seien, das zu tun, was für den Kunden moralisch richtig ist – auch über das hinaus, was gesetzlich vorgeschrieben ist. Dennoch vertrauen 65% der Befragten nicht darauf, dass Unternehmen ihr Bestes geben und glauben nicht, dass die Unternehmen ihre Technologie nutzen, um vertrauensvoll mit ihnen zu kommunizieren. In einer Welt, die vorgibt, kundenorientiert zu sein, glaubt die Mehrheit der Verbraucher nicht, dass Unternehmen sich tatsächlich um sie kümmern oder genügend Einfühlungsvermögen für ihre individuelle Situation entwickeln.

2. Verbraucher trauen der KI nicht über den Weg
Weniger als die Hälfte (40%) der Befragten stimmten zu, dass KI das Potenzial hat, den Kundenservice von Unternehmen zu verbessern. Aber nur weniger als ein Drittel (30%) fühlen sich auch wohl mit Unternehmen, die KI nutzen. Nur 9% gaben an, dass sie mit der Idee “sehr zufrieden” seien. Gleichzeitig macht sich ein Drittel aller Befragten Sorgen, dass Maschinen ihren Arbeitsplatz übernehmen. Mehr als ein Viertel (27%) führen auch den “Aufstieg der Roboter und die Versklavung der Menschheit” als Problem an.

3. Viele glauben, KI sei nicht in der Lage, unvoreingenommene Entscheidungen zu treffen
Mehr als die Hälfte (53%) der Befragten gaben an, dass KI möglicherweise die Entscheidungsfindung verzerre. Ebenfalls 53% waren sogar der Meinung, dass die KI Entscheidungen immer auf Grundlage der Vorurteile der Person treffen wird, die ihr die ersten Anweisungen gegeben hat. Das sei nach Ansicht der Befragten unabhängig davon, wie viel Zeit vergangen sei.

4. Menschen präferieren die menschliche Note
70% der Befragten sprechen, wenn es um Kundenservice geht, lieber mit einem Menschen als einem KI-System oder einem Chatbot. 69% der Befragten stimmen zu, dass sie eher geneigt wären, einem Menschen die Wahrheit zu sagen als einem KI-System. Und wenn es darum geht, Entscheidungen über Leben und Tod zu treffen, sagten überwältigende 86% der Menschen, dass sie Menschen mehr vertrauen als der KI.

5. Die meisten glauben, KI habe weder Moral noch Empathie
Nur 12% der Verbraucher stimmten zu, dass KI den Unterschied zwischen Gut und Böse erkennen kann. Über die Hälfte (56%) der Kunden glauben nicht, dass es möglich sei, Maschinen zu entwickeln, die sich moralisch verhalten. Lediglich 12% glauben, dass sie jemals mit einer Maschine interagiert haben, die Empathie gezeigt hat.

Todesstoß für KI-Anwendungen?

Unternehmen können das Vertrauen und die Zufriedenheit ihrer Kunden steigern, indem sie alle ihnen zur Verfügung stehenden Werkzeuge nutzen, um mehr Empathie in ihren Interaktionen zu zeigen. Empathie ist bislang kein allgemeines Unternehmensmerkmal, wenn es darum geht, die Rentabilität zu maximieren. Unternehmen, die ihre Kundenbindung verbessern wollen, müssen darüber nachdenken, wie sie KI-basierte Erkenntnisse mit ethischen Überlegungen verbinden.

Ein wichtiger Fortschritt in der Entwicklung der künstlichen Intelligenz werden Richtlinien sein, die ethische Überlegungen über das maschinelle Lernen hinaus stellen. Dadurch sind KI-Systeme in der Lage, Entscheidungen zu treffen, die von den Kunden als einfühlsam empfunden werden. Die KI sollte nicht der einzige Schiedsrichter des Mitgefühls sein. Durch eine Kultur der Empathie kann die KI jedoch als wirksames Instrument genutzt werden, mit dem sich Unternehmen von ihren Mitbewerbern am Markt unterscheiden.

Über die Studie

Pega befragte 5.000 Verbraucher zu ihren Ansichten über künstliche Intelligenz, Moral, ethisches Verhalten und Empathie. Teilgenommen haben Verbraucher aus den Vereinigten Staaten, Großbritannien, Frankreich, Deutschland und Japan. Die Studie “Was Verbraucher wirklich über KI denken” kann hier (gegen Abgabe der Kontaktdaten) heruntergeladen werden.aj