Ein KI-Agent sollte nicht mehr dürfen als nötig.
Die Monetary Authority of Singapore hat mit Branchenpartnern ein Papier zu Schutzmassnahmen für Agenten im Finanzbereich veröffentlicht. SAFR beschreibt Kontrollen während der Ausführung: Welche Handlung ist erlaubt, was muss vor ihr geprüft werden und wie bleibt sie nachvollziehbar? Es handelt sich um einen Vorschlag aus Singapur, nicht um eine Schweizer Vorschrift.
Für einen Leasingprozess ist das sehr praktisch. Ein Dokumentenagent darf Unterlagen lesen und eine Rückfrage entwerfen. Er braucht keinen Zugriff auf Zahlungen. Ein KYC-Agent darf Widersprüche markieren. Er sollte keinen Kunden selbständig freischalten.
Jeder Agent benötigt deshalb ein definiertes Mandat: Zweck, Datenquellen, erlaubte Aktionen, Limiten, verantwortliche Person und eine Möglichkeit zum sofortigen Stopp. Bei jedem kritischen Schritt sollte die Berechtigung erneut geprüft werden.
Die technische Fähigkeit eines Agenten beantwortet nicht die Frage, ob er eine Handlung ausführen darf.
Welche Aktion in Ihrem Prozess würden Sie einem Agenten ausdrücklich verwehren?