Sumsub-KYA-Update soll KI-Agenten kontrollierbarer machen
Sumsub
Bei Aktionen, die festgelegte Sicherheitsgrenzen überschreiten, könnten Nutzer zudem überprüfen, ob eine reale Person dahintersteht, die dafür die Verantwortung trage. Die Erweiterung knüpfe an zwei frühere Produkteinführungen an: Im Januar habe Sumsub im Rahmen seines KYA-Frameworks die Verifizierung von KI-Agenten eingeführt. Sie verknüpfe KI-gestützte Automatisierung mit der verifizierten Identität einer Person. Im Juni sei die Integration des Model Context Protocol (MCP) gefolgt, über die die Agenten die Plattform direkt konfigurieren und bedienen könnten.
KI-Agenten würden für ihre Aufgaben häufig weitreichende Zugriffsrechte auf Dateiablagen, Kommunikationsplattformen und Finanzsysteme anfordern. Ist der Zugriff einmal gewährt, könnten viele Unternehmen nur eingeschränkt nachvollziehen, was ein Agent damit tatsächlich getan hat. Laut Sumsub hätten 65 % der Organisationen im vergangenen Jahr mindestens einen Sicherheitsvorfall verzeichnet, der durch einen in ihrem Netzwerk agierenden Agenten verursacht wurde. Häufigste Ursache sei die Offenlegung sensibler Daten gewesen. Erst im Juli sei ein als autonomer Agent eingesetztes OpenAI-Modell in die Produktivsysteme von Hugging Face eingedrungen und habe ohne menschliche Freigabe auf interne Datensätze zugegriffen.
KI-Agenten werden zunehmend zur Schnittstelle zwischen Menschen und ihren Daten. Das macht vieles einfacher, darf aber nicht auf Kosten der Kontrolle gehen. Unternehmen erhalten damit eine klare Dokumentation der Aktivitäten ihrer Agenten. Bei besonders wichtigen Aktionen können sie zudem überprüfen, ob eine reale Person dahintersteht. So können sie agentische KI nutzen, ohne aus dem Blick zu verlieren, welche Entscheidungen in ihrem Namen getroffen werden.“
Mick Amelishko, AI Advocate bei Sumsub
Das KYA-Modul für MCP setze hier an, indem es eine Filterschicht zwischen die Agenten und die angebundenen Datenquellen schalte. Das Modul prüfe jede Anfrage und entferne personenbezogene sowie andere sensible Informationen, bevor sie den Agenten erreichen. Über ein vollständig konfigurierbares Regelwerk könnten Unternehmen steuern, welche Aktionen unter welchen Bedingungen ausgelöst würden. Als Kriterien würden etwa die Sensibilität der Daten, die Art der Aktion, die Abteilungen, aus denen eine Anfrage oder ein Aufruf stammt, sowie weitere individuell festgelegte Parameter dienen.
Versucht ein Agent, auf eine entsprechend gekennzeichnete Datei zuzugreifen oder eine Aktion oberhalb eines festgelegten Schwellenwerts auszuführen, kann das System laut Sumsub (Website) in Echtzeit eine Lebenderkennung, einen sogenannten Liveness-Check, auslösen. Das gelte etwa, wenn der Agent eine Rechnung oberhalb eines definierten Betrags freigeben oder auf ein Dokument außerhalb seines erlaubten Zugriffsbereichs zugreifen will. Mit der Prüfung lasse sich bestätigen, dass hinter der Anfrage eine reale, dazu berechtigte Person stehe. Je nach Sensibilität der Aktion könnten Unternehmen weitere Prüfschritte ergänzen, etwa Fragebögen oder eine Adressverifizierung.ft
Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/252688
Schreiben Sie einen Kommentar