Agentic Payments und DORA – Anforderungen an das IKT-Risikomanagement autonomer Zahlungsprozesse

Agentic Payments und DORA – Anforderungen an das IKT-Risikomanagement autonomer Zahlungsprozesse 1

Der Einsatz von KI-Agenten in Zahlungsprozessen stellt Banken und Zahlungsdienstleister vor neue Herausforderungen im IKT-Risikomanagement. Neben den Regeln des AI Acts (Verordnung (EU) 2024/1689) gelten auch die Anforderungen des Digital Operational Resilience Acts (Verordnung (EU) 2022/2554 – DORA) für diese Systeme. Ihre Anwendung wirft allerdings Fragen auf, etwa bei der Bewertung KI-spezifischer Risiken, der Einordnung von Fehlfunktionen als IKT-bezogene Vorfälle oder der Steuerung externer Technologieanbieter. Dieser Beitrag untersucht, welche Anforderungen DORA an den Einsatz agentischer Zahlungssysteme stellt und worauf Finanzunternehmen bei deren Umsetzung achten müssen.

Regulatorische Ausgangslage

Mit der zunehmenden Integration von KI-Agenten in Zahlungsprozesse stellt sich für Banken und Zahlungsdienstleister die Frage, inwieweit die bestehenden Anforderungen an die digitale operationale Resilienz auch die besonderen Risiken agentischer Systeme erfassen. DORA enthält keine spezifischen Regelungen für den Einsatz von KI-Agenten. DORA ist jedoch technologieneutral ausgestaltet und knüpft an die Nutzung von Netz- und Informationssystemen sowie die daraus entstehenden IKT-Risiken an.

Der Begriff des IKT-Risikos ist in Art. 3 Nr. 5 DORA weit gefasst. Er erfasst grundsätzlich alle vernünftigerweise identifizierbaren Umstände im Zusammenhang mit der Nutzung von Netz- und Informationssystemen, deren Eintritt die Sicherheit dieser Systeme, technologieabhängiger Werkzeuge oder Prozesse oder die Erbringung von Dienstleistungen beeinträchtigen kann. KI-Agenten, die in Zahlungsprozesse eingebunden sind und hierbei auf technische Schnittstellen, Datenbestände oder Zahlungssysteme zugreifen, können dementsprechend IKT-Risiken im Sinne von DORA begründen.

Dabei kommt es nicht darauf an, ob das betreffende KI-System nach dem AI Act als Hochrisiko-KI-System einzustufen ist. Die regulatorischen Anknüpfungspunkte beider Verordnungen unterscheiden sich. Während der AI Act insbesondere bestimmte Risiken des Einsatzes künstlicher Intelligenz adressiert, bezweckt DORA die Sicherstellung der digitalen operationalen Resilienz von Finanzunternehmen. Die Anwendbarkeit von DORA hängt daher nicht von der KI-rechtlichen Klassifizierung des eingesetzten Systems ab.

Allerdings begründet auch nicht jede Fehlentscheidung es KI-Agenten bereits ein IKT-Risiko im Sinne von DORA. Wählt ein Agent beispielsweise einen wirtschaftlich ungünstigen Zahlungsweg, ohne die Sicherheit oder Funktionsfähigkeit der beteiligten Systeme oder Dienstleistungen zu beeinträchtigen, handelt es sich zunächst um ein geschäftliches Risiko. Führt eine Fehlfunktion des Agenten hingegen dazu, dass Zahlungsaufträge fehlerhaft verarbeitet werden oder die Verfügbarkeit einer Zahlungsdienstleistung beeinträchtigt wird, kann ein IKT-Risiko nach Art. 3 Nr. 5 DORA vorliegen. Für die Einordnung kommt es somit auf die möglichen Auswirkungen des Agentenverhaltens auf die eingesetzten IKT-Systeme und die damit unterstützten Dienstleistungen an.

Einbindung agentischer Systeme in den IKT-Risikomanagementrahmen

Nach Art. 6 Abs. 1 DORA müssen Finanzunternehmen über einen soliden, umfassenden und gut dokumentierten IKT-Risikomanagementrahmen verfügen, der es ihnen ermöglicht, IKT-Risiken wirksam und umsichtig zu steuern. Diese Verpflichtung erstreckt sich grundsätzlich auch auf KI-gestützte Anwendungen, soweit sie Bestandteil der für die Geschäftstätigkeit eingesetzten IKT-Systeme und -Prozesse sind. Für agentische Zahlungsprozesse ergeben sich daraus insbesondere Anforderungen an die Identifizierung und Dokumentation der eingesetzten Systeme und ihrer Abhängigkeiten.

Art. 8 DORA verpflichtet Finanzunternehmen unter anderem zur Identifizierung, Klassifizierung und angemessenen Dokumentation ihrer IKT-gestützten Geschäftsfunktionen sowie der sie unterstützenden Informations- und IKT-Assets. Werden KI-Agenten zur Vorbereitung, Steuerung oder Auslösung von Zahlungsvorgängen eingesetzt, ist zunächst zu bestimmen, welche Geschäftsfunktionen durch diese Anwendungen unterstützt werden und welche Bedeutung ihnen für die ordnungsgemäße Leistungserbringung zukommt.

Dabei kann eine isolierte Betrachtung des KI-Agenten unzureichend sein. Agentische Systeme bestehen regelmäßig aus mehreren miteinander verbundenen Komponenten. Hierzu können insbesondere das zugrunde liegende KI-Modell, externe Datenquellen, technische Schnittstellen, Berechtigungsmechanismen sowie nachgelagerte Zahlungsverkehrsanwendungen gehören. Für die Risikoidentifizierung ist daher die gesamte relevante technische Prozesskette zu betrachten.

Dies gilt insbesondere dann, wenn einzelne Komponenten von unterschiedlichen Anbietern bereitgestellt werden oder wesentliche Funktionen außerhalb der eigenen IKT-Infrastruktur des Finanzunternehmens ausgeführt werden.

Bei der Risikobewertung sind die technischen Besonderheiten agentischer Systeme zu berücksichtigen. Hierzu gehören insbesondere die Möglichkeit unvorhergesehener Systemhandlungen, Abhängigkeiten von externen Modellen und Datenquellen sowie Risiken durch die Manipulation von Eingabeinformationen oder technischen Schnittstellen. Eine Besonderheit besteht darin, dass die Funktionsfähigkeit des Gesamtsystems nicht ausschließlich von der Verfügbarkeit seiner einzelnen technischen Komponenten abhängt. Auch Fehlfunktionen im Zusammenspiel dieser Komponenten können die ordnungsgemäße Erbringung IKT-gestützter Zahlungsdienstleistungen beeinträchtigen. DORA verlangt insoweit keine vollständige Vorhersehbarkeit sämtlicher Entscheidungen eines KI-Agenten. Erforderlich ist jedoch, dass die mit der konkreten technischen Ausgestaltung verbundenen IKT-Risiken nach Maßgabe ihrer Bedeutung für die unterstützten Geschäftsfunktionen angemessen identifiziert, bewertet und gesteuert werden.

Für die Praxis bedeutet dies, dass bestehende IKT-Risikobewertungsmethoden gegebenenfalls um spezifische Risikoszenarien agentischer Anwendungen ergänzt werden müssen. Eine eigenständige, von den bestehenden DORA-Strukturen losgelöste KI-Risikomanagementorganisation ist hierfür jedoch in der Regel nicht erforderlich.

 Anforderungen an Zugriffskontrolle und Änderungsmanagement

Besondere Bedeutung kommt bei agentischen Zahlungsprozessen den Anforderungen an die IKT-Sicherheit gemäß Art. 9 DORA sowie den hierzu erlassenen technischen Regulierungsstandards zu. KI-Agenten unterscheiden sich von rein analytischen KI-Anwendungen insbesondere dadurch, dass sie innerhalb bestimmter technischer Berechtigungen eigenständig Funktionen aufrufen oder Aktionen ausführen können. Für das IKT-Risikomanagement ist deshalb zu beurteilen, ob die dem Agenten eingeräumten Zugriffs- und Ausführungsberechtigungen angemessen begrenzt und kontrolliert werden.

Die Anforderungen an Zugriffskontrollen ergeben sich insbesondere aus Art. 9 DORA in Verbindung mit den konkretisierenden Vorgaben des DORA-RTS zum IKT-Risikomanagementrahmen (Delegierte Verordnung (EU) 2024/1774 – RTS RMF). Danach sind unter anderem angemessene Maßnahmen zur Verwaltung und Begrenzung logischer Zugriffsrechte erforderlich. Auf agentische Zahlungsprozesse übertragen bedeutet dies, dass die technischen Berechtigungen eines KI-Agenten entsprechend seiner vorgesehenen Funktion ausgestaltet werden müssen.

Hierbei ist zwischen der zahlungsrechtlichen Autorisierung einer Transaktion und der technischen Berechtigung zum Zugriff auf bestimmte Systeme oder Funktionen zu unterscheiden. Die zahlungsrechtliche Autorisierung richtet sich nach den einschlägigen Bestimmungen des Zahlungsdiensterechts. Die technische Berechtigung ist hingegen Bestandteil der IKT-Sicherheitsarchitektur. Beide Anforderungen stehen in einem funktionalen Zusammenhang, sind rechtlich jedoch nicht gleichzusetzen. Insbesondere kann aus dem Vorliegen einer technischen Zugriffsberechtigung nicht automatisch auf die zahlungsrechtliche Autorisierung einer konkreten Transaktion geschlossen werden.

Aus Sicht von DORA sind daher geeignete Kontrollmaßnahmen erforderlich, mit denen unzulässige oder sicherheitsgefährdende technische Zugriffe und Aktionen verhindert beziehungsweise begrenzt werden. Welche Maßnahmen hierfür angemessen sind, hängt von der konkreten Architektur, dem Umfang der dem Agenten eingeräumten Berechtigungen und der Kritikalität der unterstützten Zahlungsprozesse ab.

Zusätzliche Anforderungen können sich beim Management von Änderungen an agentischen Systemen ergeben. Nach Art. 9 DORA müssen Finanzunternehmen geeignete Verfahren zur Steuerung und Kontrolle von IKT-Änderungen vorsehen. Der RTS RMF konkretisiert die entsprechenden Anforderungen.

Bei KI-gestützten Anwendungen ist dabei zu berücksichtigen, dass sich das Verhalten des Gesamtsystems auch durch Änderungen an extern bereitgestellten Modellen, Modellkonfigurationen oder angebundenen Komponenten verändern kann. Solche Änderungen müssen nicht zwangsläufig mit einer Änderung der eigentlichen Zahlungsverkehrsanwendung einhergehen.

Für Finanzunternehmen stellt sich deshalb die Frage, wie relevante Änderungen identifiziert und hinsichtlich ihrer möglichen Auswirkungen auf die unterstützten Geschäftsfunktionen bewertet werden können. Dies kann insbesondere entsprechende Informationspflichten externer Anbieter, Verfahren zur Bewertung neuer Modellversionen und geeignete Tests vor einer produktiven Übernahme von Änderungen erforderlich machen.

Nicht jede Modelländerung ist dabei automatisch als wesentliche Änderung eines IKT-Systems einzuordnen. Maßgeblich sind vielmehr die möglichen Auswirkungen auf die Sicherheit und Funktionsfähigkeit der betroffenen IKT-Systeme und -Prozesse.

IKT-Vorfallsmanagement: Abgrenzung zwischen KI-Fehlfunktion und meldepflichtigem Ereignis

Eine zentrale rechtliche Frage betrifft die Behandlung von Fehlfunktionen agentischer Systeme im Rahmen des IKT-Vorfallsmanagements.

Nach Art. 17 DORA müssen Finanzunternehmen einen Prozess für die Behandlung IKT-bezogener Vorfälle einrichten und unterhalten. Art. 18 DORA sowie der DORA-RTS zu den Kriterien für die Klassifizierung von IKT-bezogenen Vorfällen (Delegierte Verordnung (EU) 2024/1772 – RTS Klassifizierung) enthalten die Kriterien für die Klassifizierung entsprechender Vorfälle. Bei KI-Agenten kann die Einordnung eines Ereignisses anspruchsvoll sein, weil Fehlfunktionen sowohl aus technischen Störungen als auch aus dem Entscheidungsverhalten des Systems resultieren können.

Nach Art. 3 Nr. 8 DORA setzt ein IKT-bezogener Vorfall ein ungeplantes Ereignis oder eine Reihe zusammenhängender Ereignisse voraus, das beziehungsweise die die Sicherheit der Netz- und Informationssysteme beeinträchtigt und nachteilige Auswirkungen auf die Verfügbarkeit, Authentizität, Integrität oder Vertraulichkeit von Daten oder auf die vom Finanzunternehmen erbrachten Dienstleistungen hat.

Dementsprechend ist nicht jede fehlerhafte Entscheidung eines KI-Agenten als IKT-bezogener Vorfall einzuordnen. Führt ein Agent beispielsweise auf Grundlage technisch ordnungsgemäß verarbeiteter Informationen eine wirtschaftlich ungünstige, aber ansonsten zulässige Handlung aus, begründet dies nicht ohne Weiteres einen IKT-bezogenen Vorfall.

Anders kann die Bewertung ausfallen, wenn eine Fehlfunktion des Agenten die Integrität von Zahlungsdaten beeinträchtigt, unzulässige Zugriffe auf technische Systeme ermöglicht oder zur Störung IKT-gestützter Zahlungsdienstleistungen führt.

Entscheidend ist somit nicht die Beteiligung eines KI-Systems als solche, sondern die konkrete Art und Auswirkung des eingetretenen Ereignisses.

Für den Zahlungsverkehr ist darüber hinaus Art. 3 Nr. 9 DORA zu berücksichtigen. Die Vorschrift definiert operationelle oder sicherheitsrelevante zahlungsbezogene Vorfälle eigenständig und erfasst ausdrücklich auch Ereignisse, die nicht IKT-bezogen sind. Für die hiervon erfassten Finanzunternehmen kann deshalb auch ein Ereignis relevant sein, das zwar keinen IKT-bezogenen Vorfall im Sinne von Art. 3 Nr. 8 DORA darstellt, aber nachteilige Auswirkungen auf zahlungsbezogene Daten oder Zahlungsdienstleistungen hat.

Die Unterscheidung ist gerade bei agentischen Zahlungsprozessen von hoher Bedeutung. Ein fehlerhaftes Entscheidungsverhalten eines KI-Agenten kann unter Umständen die Erbringung eines Zahlungsdienstes beeinträchtigen, ohne dass zugleich eine klassische Störung der IKT-Sicherheit vorliegt. Ob ein solches Ereignis als zahlungsbezogener operationeller oder sicherheitsrelevanter Vorfall einzuordnen ist und weitere Meldepflichten auslöst, muss anhand der gesetzlichen Tatbestandsmerkmale und der einschlägigen Klassifizierungskriterien beurteilt werden.

Für Agentic Payments ist daher eine differenzierte Vorfallklassifizierung erforderlich, die sowohl IKT-bezogene als auch gegebenenfalls nicht IKT-bezogene zahlungsbezogene Ereignisse berücksichtigt.

Die regulatorischen Meldepflichten knüpfen anschließend an die jeweiligen gesetzlichen Voraussetzungen und insbesondere an die Einstufung als schwerwiegender Vorfall an. Eine generelle Meldepflicht für Fehlentscheidungen von KI-Agenten besteht dagegen nicht.

Business Continuity

Die Anforderungen an die Fortführung und Wiederherstellung IKT-gestützter Geschäftsfunktionen ergeben sich insbesondere aus Art. 11 und 12 DORA. Finanzunternehmen müssen angemessene IKT-Geschäftsfortführungsstrategien sowie Reaktions- und Wiederherstellungspläne vorsehen und deren Wirksamkeit überprüfen.

Bei agentischen Zahlungsprozessen ist dabei zu berücksichtigen, dass der Ausfall oder die Fehlfunktion einer KI-Komponente die Funktionsfähigkeit des Gesamtprozesses beeinträchtigen kann, auch wenn die eigentliche Zahlungsverkehrsinfrastruktur weiterhin verfügbar ist. Die Geschäftsfortführungsplanung muss deshalb die Bedeutung der agentischen Komponenten für die jeweils unterstützten Geschäftsfunktionen angemessen berücksichtigen. Abhängig von der Kritikalität des Prozesses kann dies insbesondere die Prüfung alternativer Verarbeitungswege oder geeigneter Möglichkeiten zur zeitweisen Deaktivierung agentischer Funktionen umfassen.

DORA schreibt jedoch weder einen generellen manuellen Ersatzprozess für KI-Agenten noch eine bestimmte technische Rückfallarchitektur vor. Maßgeblich sind die konkreten Risiken, die Bedeutung der unterstützten Geschäftsfunktion sowie die für diese geltenden Wiederherstellungsanforderungen.

Anforderungen an Resilienztests

Art. 24ff. DORA verpflichten Finanzunternehmen zur Durchführung eines risikobasierten Programms zur Prüfung ihrer digitalen operationalen Resilienz. Die sog. DOR-Tests müssen geeignet sein, Schwachstellen und Defizite der eingesetzten IKT-Systeme zu erkennen und die Wirksamkeit der vorgesehenen Schutzmaßnahmen zu bewerten.

Bei agentischen Zahlungsprozessen können daher Tests erforderlich sein, die über die reine Verfügbarkeit einzelner Komponenten hinausgehen. Dies betrifft insbesondere das Verhalten der technischen Kontrollmechanismen bei fehlerhaften oder manipulierten Eingabeinformationen, unerwarteten Systemhandlungen oder dem Ausfall externer Modell- und Datenverarbeitungskomponenten. Derartige Tests können dazu beitragen, die Wirksamkeit von Berechtigungsbeschränkungen, Sicherheitsmaßnahmen und Wiederherstellungsverfahren zu beurteilen.

Dabei ist allerdings zwischen allgemeinen KI-spezifischen Evaluierungen, etwa zur Qualität oder Zuverlässigkeit von Modellergebnissen, und den Resilienztests nach DORA zu unterscheiden. Nicht jede KI-Evaluierung erfüllt zugleich eine regulatorische Testpflicht nach DORA. Umgekehrt kann es zur angemessenen Prüfung der digitalen operationalen Resilienz erforderlich sein, KI-spezifische technische Fehlerszenarien in bestehende Testprogramme einzubeziehen. Dies gilt auch im Verhältnis zu bedrohungsorientierten Penetrationstests nach Art. 26 DORA. Ein allgemeines Red Teaming eines KI-Modells ist nicht mit einem TLPT nach DORA gleichzusetzen.

Anforderungen an das IKT-Drittparteienrisikomanagement

Agentische Zahlungsprozesse können in erheblichem Umfang auf extern bereitgestellten IKT-Dienstleistungen beruhen. Hierzu zählen insbesondere KI-Modelle, Plattformleistungen, Schnittstellen sowie weitere technische Komponenten, die für die Funktionsfähigkeit des Agenten erforderlich sind. Für Finanzunternehmen ergeben sich daraus Anforderungen nach Art. 28 ff. DORA.

Zunächst ist zu beurteilen, welche externen Leistungen als IKT-Dienstleistungen im Sinne von Art. 3 Nr. 21 DORA einzuordnen sind und welche vertraglichen Beziehungen bestehen. Dabei ist zu beachten, dass die technische Beteiligung eines Unternehmens an einem agentischen Zahlungsprozess nicht automatisch bedeutet, dass dieses Unternehmen unmittelbarer IKT-Drittdienstleister des Finanzunternehmens ist. Einzelne Komponenten können vielmehr über andere Anbieter bezogen werden und damit Bestandteil einer weitergehenden IKT-Leistungskette sein. Für die Risikobewertung sind daher sowohl die unmittelbaren vertraglichen Beziehungen als auch relevante Abhängigkeiten innerhalb der Leistungskette zu berücksichtigen.

Kritische oder wichtige Funktionen

Für das IKT-Drittparteienrisikomanagement ist von besonderer Bedeutung, ob eine extern bezogene KI-Anwendung eine kritische oder wichtige Funktion im Sinne von Art. 3 Nr. 22 DORA unterstützt. Dies ist insbesondere dann der Fall, wenn eine Störung oder mangelhafte Leistungserbringung die finanzielle Leistungsfähigkeit, die Solidität oder die Fortführung der Geschäftstätigkeit eines Finanzunternehmens erheblich beeinträchtigen oder dazu führen würde, dass es seinen regulatorischen Verpflichtungen nicht mehr nachkommen kann.

Die Einstufung hängt also wesentlich davon ab, welche Aufgaben der KI-Agent innerhalb des Zahlungsprozesses übernimmt und welche Folgen sein Ausfall oder seine Fehlfunktion hätte. Wird ein KI-Agent beispielsweise lediglich eingesetzt, um unterschiedliche Zahlungswege hinsichtlich ihrer Kosten oder Ausführungsdauer zu vergleichen und dem Nutzer einen Vorschlag zu unterbreiten, wird die zugrunde liegende IKT-Dienstleistung regelmäßig eine andere Bedeutung haben als bei einem Agenten, der eigenständig Zahlungsaufträge vorbereitet, deren Ausführung veranlasst oder die Steuerung größerer Zahlungsvolumina übernimmt.

Besonders relevant wird die Bewertung, wenn das Finanzunternehmen für die ordnungsgemäße Erbringung seiner Zahlungsdienstleistungen auf die Funktionsfähigkeit des Agenten angewiesen ist. Kann ein Ausfall des externen KI-Modells beispielsweise dazu führen, dass Zahlungsaufträge nicht mehr verarbeitet, Zahlungsfristen nicht eingehalten oder wesentliche Zahlungsverkehrsprozesse unterbrochen werden, spricht dies für eine Unterstützung einer kritischen oder wichtigen Funktion. Bestehen dagegen funktionsfähige alternative Verarbeitungswege, über die der Zahlungsverkehr ohne wesentliche Beeinträchtigungen fortgeführt werden kann, ist dies bei der Bewertung zu berücksichtigen. Allein das Vorhandensein eines solchen Ersatzverfahrens schließt die Kritikalität allerdings nicht aus.

Die Bewertung ist vor Abschluss des Vertrags über die betreffende IKT-Dienstleistung vorzunehmen und muss die tatsächliche Nutzung berücksichtigen. Gerade bei Agentic Payments kann sich diese im Laufe der Zeit erheblich verändern. Ein zunächst ausschließlich unterstützend eingesetzter KI-Agent kann durch die Erweiterung seiner Berechtigungen und Handlungsmöglichkeiten zunehmend in die operative Zahlungsabwicklung eingebunden werden. In diesem Fall muss das Finanzunternehmen prüfen, ob die bisherige Risikobewertung und die Einstufung der unterstützten Funktion noch zutreffen.

Die Einordnung als IKT-Dienstleistung zur Unterstützung einer kritischen oder wichtigen Funktion hat unmittelbare Auswirkungen auf die Vertragsgestaltung. Während Art. 30 Abs. 2 DORA die allgemeinen Mindestanforderungen an Verträge über IKT-Dienstleistungen festlegt, sieht Art. 30 Abs. 3 DORA zusätzliche Anforderungen für Dienstleistungen vor, die kritische oder wichtige Funktionen unterstützen. Hierzu zählen insbesondere weitergehende Vorgaben zu Service Levels, zur Überwachung der Leistungserbringung, zu Prüfungs- und Zugangsrechten sowie zum Exitmanagement und zu Ausstiegsstrategien. Ergänzend sind die Anforderungen der einschlägigen technischen Regulierungsstandards zu berücksichtigen.

Bei der Vertragsgestaltung für agentische Zahlungssysteme verdienen insbesondere die Informations- und Mitwirkungspflichten des IKT-Drittdienstleisters besondere Aufmerksamkeit. Das Finanzunternehmen muss in der Lage sein, die mit der externen Leistung verbundenen IKT-Risiken angemessen zu überwachen und auf sicherheitsrelevante Ereignisse oder wesentliche Veränderungen der technischen Leistungserbringung zu reagieren. Hierfür können beispielsweise vertragliche Informationspflichten über relevante Sicherheitsvorfälle, Änderungen an technischen Schnittstellen, den Wechsel eingesetzter KI-Modelle oder wesentliche Veränderungen innerhalb der IKT-Leistungskette erforderlich sein. Auch die Unterstützung bei der Ursachenanalyse von Fehlfunktionen sowie die Bereitstellung hierfür benötigter technischer Informationen sollten angemessen geregelt werden.

Eine Besonderheit ergibt sich bei extern betriebenen KI-Modellen daraus, dass sich deren Verhalten durch Modellupdates oder Änderungen der zugrunde liegenden Konfiguration verändern kann, ohne dass das Finanzunternehmen selbst Änderungen an seiner Zahlungsverkehrsanwendung vornimmt. Bei entsprechender Bedeutung des KI-Modells für den Zahlungsprozess sollte der Vertrag daher geeignete Informations- und Kontrollmöglichkeiten vorsehen. Dazu können etwa die vorherige Information über wesentliche Modelländerungen, die Bereitstellung von Informationen zur Bewertung ihrer Auswirkungen sowie gegebenenfalls die Möglichkeit gehören, Änderungen vor ihrem produktiven Einsatz zu testen.

DORA begründet allerdings keinen pauschalen Anspruch auf Offenlegung sämtlicher Modellparameter, Trainingsdaten oder des vollständigen Quellcodes externer KI-Systeme. Welche Informations-, Überwachungs- und Prüfungsrechte vertraglich vorzusehen sind, richtet sich nach den Anforderungen des Art. 30 DORA, der Bedeutung der unterstützten Geschäftsfunktion und dem konkreten Risikoprofil der bezogenen IKT-Dienstleistung. Gerade bei Agentic Payments kommt es deshalb darauf an, die vertraglichen Kontrollrechte so auszugestalten, dass das Finanzunternehmen die Auswirkungen externer technischer Veränderungen auf seine Zahlungsprozesse beurteilen und die hierfür erforderlichen Risikosteuerungsmaßnahmen ergreifen kann.

Praktischer Handlungsbedarf

Banken und Zahlungsdienstleister müssen für den Einsatz von Agentic Payments keinen eigenständigen DORA-Compliance-Rahmen schaffen. Sie sollten jedoch frühzeitig prüfen, ob ihre bestehenden Verfahren die Besonderheiten agentischer Zahlungssysteme ausreichend berücksichtigen. Gerade wenn KI-Agenten eigenständig Zahlungswege auswählen, Zahlungsaufträge vorbereiten oder deren Ausführung veranlassen, können zusätzliche Kontrollmaßnahmen erforderlich werden.

Für die praktische Umsetzung sind insbesondere fünf Bereiche relevant:

1. IKT-Risikoanalyse um agentische Zahlungsprozesse erweitern

Bereits vor der produktiven Einführung sollte das Finanzunternehmen dokumentieren, welche Aufgaben der KI-Agent übernimmt und welchen Einfluss er auf die Zahlungsabwicklung hat. Dazu gehört insbesondere die Klärung der Frage, ob der Agent lediglich Empfehlungen abgibt oder selbstständig Zahlungsfunktionen aufrufen und Transaktionen veranlassen kann. Die ex-ante Risikoanalyse sollte außerdem die verwendeten KI-Modelle, angebundenen Datenquellen, technischen Schnittstellen und externen Dienstleister erfassen. Besondere Aufmerksamkeit verdienen Abhängigkeiten von einzelnen Modellanbietern oder Plattformen sowie die möglichen Auswirkungen von Modellfehlern auf die Zahlungsabwicklung. Diese Informationen sollten in die bestehenden IKT-Asset-Verzeichnisse, Abhängigkeitsanalysen und Risikobewertungen nach Art. 8 DORA einfließen.

2. Technische Berechtigungen und Kontrollmechanismen überprüfen

Bei agentischen Zahlungssystemen ist festzulegen, welche Handlungen der Agent selbstständig ausführen darf und an welchen Stellen zusätzliche technische Kontrollen erforderlich sind. Dies betrifft beispielsweise die Begrenzung von API-Berechtigungen, den Zugriff auf Zahlungs- und Kontodaten sowie die Festlegung von Transaktions-, Betrags- oder Empfängerbeschränkungen. Das Finanzunternehmen sollte insbesondere sicherstellen, dass der Agent keine Zahlungsfunktionen außerhalb seiner vorgesehenen technischen Berechtigungen ausführen kann. Auch müssen ungewöhnliche Aktivitäten erkennbar und die ausgeführten Aktionen nachvollziehbar sein. Dazu gehören geeignete Protokollierungs- und Überwachungsmechanismen sowie die Möglichkeit, Berechtigungen bei Fehlfunktionen oder Sicherheitsvorfällen kurzfristig zu entziehen. Die Maßnahmen sind anhand der Anforderungen an die IKT-Sicherheit gemäß Art. 9 DORA auszugestalten.

3. KI-spezifische Szenarien in das Vorfallsmanagement aufnehmen

Die bestehenden Incident-Management-Prozesse sollten auch Störungen berücksichtigen, die durch das Verhalten eines KI-Agenten entstehen. Hierzu gehören beispielsweise fehlerhafte Zahlungsanweisungen infolge manipulierter Eingangsdaten, der Missbrauch technischer Berechtigungen oder eine systematische Fehlsteuerung von Zahlungsaufträgen aufgrund eines Modellfehlers. Für solche Szenarien sollte vorab geklärt werden, wie sie frühzeitig erkannt und eskaliert werden, welche technischen Informationen für die Ursachenanalyse verfügbar sein müssen und wer über die vorübergehende Deaktivierung des Agenten entscheidet. Zugleich muss eine Einordnung nach den einschlägigen DORA-Klassifizierungskriterien möglich sein. Bei Zahlungsdienstleistern ist dabei auch zu prüfen, ob eine Störung als operationeller oder sicherheitsrelevanter zahlungsbezogener Vorfall einzustufen ist, selbst wenn kein IKT-bezogener Vorfall im engeren Sinne vorliegt.

4. Ausfall- und Fehlfunktionsszenarien in BCM und Resilienztests berücksichtigen

Im Rahmen der Geschäftsfortführungsplanung sollte geprüft werden, welche Auswirkungen der Ausfall eines KI-Modells, einer Agentenplattform oder einer wesentlichen Datenquelle auf die Zahlungsabwicklung hätte. Insbesondere bei agentischen Systemen, die unmittelbar in die operative Zahlungssteuerung eingebunden sind, ist zu klären, ob Zahlungen vorübergehend über alternative Verfahren abgewickelt werden können. Denkbar sind beispielsweise eine Rückkehr zu regelbasierten Prozessen oder eine zusätzliche Freigabe durch Mitarbeiter. Die Funktionsfähigkeit solcher Verfahren sollte angemessen getestet werden. Das DOR-Testprogramm nach Art. 24 ff. DORA sollte darüber hinaus relevante KI-spezifische Fehlerszenarien berücksichtigen, etwa manipulierte Eingangsinformationen, unzulässige Funktionsaufrufe oder unerwartete Änderungen des Agentenverhaltens. Entscheidend ist, ob die vorgesehenen Kontrollmaßnahmen auch bei Fehlfunktionen wirksam bleiben.

5. Verträge mit KI- und Technologieanbietern sorgfältig prüfen

Bei extern bezogenen KI-Modellen und Agentenplattformen sollte zunächst geprüft werden, welche IKT-Dienstleistungen vorliegen und ob diese kritische oder wichtige Funktionen unterstützen. Anschließend sind die vertraglichen Anforderungen nach Art. 30 DORA umzusetzen. Für Agentic Payments sollten dabei insbesondere Regelungen zu Änderungen der eingesetzten KI-Modelle, zur Information über Sicherheitsvorfälle, zur Unterstützung bei der Fehleranalyse sowie zu technischen Abhängigkeiten und Unterauftragnehmern berücksichtigt werden. Bei wesentlichen Modelländerungen kann es beispielsweise erforderlich sein, dass der Anbieter rechtzeitig über die Änderung informiert und ausreichende Informationen für eine Bewertung der Auswirkungen auf den Zahlungsprozess bereitstellt. Soweit die Bedeutung der unterstützten Funktion dies erfordert, sollten auch Möglichkeiten zur vorherigen Erprobung neuer Modellversionen und zur Fortführung der Leistung bei Ausfall des Anbieters vereinbart werden.

Die genannten Maßnahmen sind risikobasiert auszugestalten. Ein KI-Agent, der lediglich einen geeigneten Zahlungsweg vorschlägt, erfordert regelmäßig andere Kontrollen als ein System, das eigenständig große Zahlungsvolumina steuert. Finanzunternehmen sollten deshalb insbesondere den Autonomiegrad des Agenten, seine technischen Berechtigungen und die möglichen Auswirkungen einer Fehlfunktion auf die Zahlungsabwicklung berücksichtigen. Die bestehende DORA-Governance kann hierfür grundsätzlich weiterverwendet werden. Entscheidend ist, dass die spezifischen Risiken agentischer Zahlungsprozesse darin angemessen abgebildet und durch wirksame Kontrollen adressiert werden.

Fazit

Agentic Payments begründen nicht automatisch neue oder weitergehende Verpflichtungen nach DORA. Sie können jedoch neue Ausprägungen bereits regulierter IKT-Risiken schaffen und damit eine Anpassung bestehender Risikomanagement- und Kontrollverfahren erforderlich machen. Rechtlich entscheidend ist, welche Funktionen ein KI-Agent im konkreten Zahlungsprozess übernimmt, welche IKT-Systeme und -Dienstleistungen hierfür genutzt werden und welche Auswirkungen mögliche Störungen oder Fehlfunktionen auf die unterstützten Geschäftsfunktionen haben können.

Besondere Aufmerksamkeit verdienen dabei die Abgrenzung von IKT-bezogenen und sonstigen zahlungsbezogenen Vorfällen sowie die Steuerung technischer Berechtigungen, externer Modellabhängigkeiten und Änderungen an agentischen Systemen.

DORA verlangt keine vollständige Kontrolle über jede einzelne Entscheidung eines KI-Agenten. Finanzunternehmen müssen jedoch die mit seinem Einsatz verbundenen IKT-Risiken angemessen identifizieren, bewerten und steuern sowie die digitale operationale Resilienz der unterstützten Geschäftsprozesse gewährleisten.

Der rechtliche Handlungsbedarf liegt damit weniger in der Schaffung neuer Governance-Strukturen als in einer risikogerechten Weiterentwicklung der bereits bestehenden DORA-Prozesse.

 Dieser Beitrag ist Teil der PayTechLaw-Serie „Agentic Payments – Recht im autonomen Zahlungsverkehr“. In der Reihe beleuchten wir die regulatorischen Anforderungen an agentische Zahlungssysteme aus verschiedenen Perspektiven.



Indem Sie fortfahren, akzeptieren Sie unsere Datenschutzerklärung.
You May Also Like