Not-Aus-Schalter für alle KI-Systeme? 92 % der Deutschen wollen das

Eine Hand drückt einen großen roten Not-Aus-Knopf auf einer gelb-schwarz markierten Fläche. Der Schalter steht für die von 92 Prozent der Deutschen geforderte Abschaltmöglichkeit für KI-Systeme. — KI, DALL-E

Eine repräsentative Umfrage von Bitkom Research im Auftrag des Digitalverbands Bitkom unter 1.006 Personen in Deutschland zeigt: KI weckt bei vielen grundlegende Ängste. So fürchten etwa 49 Prozent, eine selbstständig handelnde KI könne die Menschheit auslöschen. 92 Prozent befürworten einen Not-Aus-Schalter für alle KI-Systeme.

Schon 2024 warnte die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) bezüglich Einsatzes von KI bei Banken und Versicherern: Wenn Maschinen Entscheidungen treffen, könne es problematisch werden, weil sie nur auf den ersten Blick einer neutralen Logik folgten. Hochgradig automatisierte Entscheidungsprozesse mit geringer menschlicher Überwachung könnten bestehende Diskriminierungsrisiken verstärken.

2026 dann erweiterte der deutsche Gesetzgeber das Mandat der Bafin auf die Marktüberwachung für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. Die neue Zuständigkeit erstreckt sich auf Kreditinstitute, Versicherer und andere Finanzunternehmen. So soll die Bafin zukünftig zum Beispiel dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.

Die Bedenken vor einer Diskriminierung durch künstliche Intelligenz erscheint vor den Ergebnissen der Bitkom-Umfrage nahezu harmlos. Demnach haben besonders ältere Menschen Angst, dass KI die Menschheit auslöschen könne. Bei den über 65-Jährigen sind es 61 Prozent, bei den 16- bis 29-Jährigen 34 Prozent. 85 Prozent wollen strengere Regeln für besonders leistungsfähige KI. 80 Prozent sehen KI in den falschen Händen als Gefahr für die Menschheit. 92 % wollen einen Not-Aus-Schalter für alle KI-Systeme.

Wenn fast die Hälfte der Menschen fürchtet, dass KI die Menschheit auslöschen könnte, ist das ein Aufruf zum Handeln. Der theoretische Alarmismus, aber auch die zahlreichen Sicherheitsvorfälle haben viel Vertrauen zerstört und uns vor Augen geführt, wozu unkontrollierte Künstliche Intelligenz inzwischen in der Lage ist. Neben Leistung muss jetzt Sicherheit in den Fokus rücken.“

Dr. Ralf Wintergerst, Bitkom-Präsident

KI ist für die Mehrheit eine grundsätzliche Chance

Trotz der vorhandenen Befürchtungen sieht eine knappe Mehrheit von 56 Prozent in KI für die Menschheit grundsätzlich eher eine Chance als ein Risiko. Dabei gibt es laut der Umfrage des Bitkom (Website) jedoch deutliche Unterschiede zwischen den Generationen. Unter den 16- bis 29-Jährigen nehmen zwei Drittel (66 Prozent) die Chancenperspektive ein. Bei den Menschen ab 65 Jahren lediglich 49 Prozent.

Noch deutlicher wird der Unterschied zwischen den Generationen beim persönlichen Blick auf KI-Systeme, die selbstständig planen, entscheiden und handeln. Über alle Altersgruppen hinweg halten sich hier Zuversicht (47 Prozent) und Sorge (49 Prozent) die Waage. Unter den 16- bis 29-Jährigen überwiegt bei 58 Prozent die Zuversicht, 57 Prozent bei den 30- bis 49-Jährigen. Bei den Menschen ab 65 Jahren überwiegt hingegen bei 62 Prozent die Sorge. Nur 34 Prozent sind zuversichtlich.

Skepsis gegenüber KI-Agenten

Das IT Finanzmagazin berichtete unter anderem über die Studie „From Click to Agent“ der Technologieberatung Sopra Steria. Auch darin zeigt sich eine breite Skepsis gegenüber KI-Agenten. So sagen 94 Prozent der Kunden in Europa, jede Banktransaktion persönlich freigeben zu wollen, bevor ein KI-Agent sie ausführe.

Auch unser Bericht über eine weitere Bitkom-Studie zum Einsatz von KI bei Versicherern zeigt: Nur 15 Prozent der Befragten sind überzeugt, dass KI passendere Versicherungsempfehlungen geben kann als ein Mensch.

Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/253808

KI ist für die Mehrheit eine grundsätzliche Chance

Schreiben Sie einen Kommentar Antwort abbrechen