🎧Künstliche Intelligenz im Finanzsektor steht längst im Fokus der Aufsicht – doch was wollen BaFin & Co. konkret sehen?
In der aktuellen Folge spricht Annerton-Partnerin Josefine Spengler mit Dana Wondra von Payment & Banking über die praktische Regulierung von KI im Finanzsektor. Im zweiten Teil unserer Reihe „AI in Finance“ geht es nicht um Visionen, sondern um Prüfungspraxis: Wie schaut die Aufsicht heute auf KI-Systeme in Banken und bei Zahlungsdienstleistern? – Jetzt reinhören!
KI als Aufsichtsthema: Kein Sonderfall, sondern Teil der IT-Governance
Die zentrale Botschaft: Für die Aufsicht ist KI kein isoliertes Innovationsprojekt. Sie gilt zunächst als IT- bzw. IKT-System mit besonderen Risikoprofilen – und wird entsprechend in bestehende regulatorische Rahmenwerke eingebettet, insbesondere unter DORA.
Governance statt Hype: Worauf es in Prüfungen ankommt
Entscheidend ist nicht, ob KI eingesetzt wird, sondern wie sie organisatorisch verankert ist. In Prüfungen stehen daher grundlegende Governance-Fragen im Mittelpunkt:
- Wer trägt die Verantwortung für KI-gestützte Entscheidungen?
- Wie wurde das Modell entwickelt und validiert?
- Wie erfolgt die laufende Überwachung?
- Wie lassen sich Ergebnisse erklären und nachvollziehen?
Damit verschiebt sich der Fokus weg von reinen Performance-Kennzahlen hin zu Nachvollziehbarkeit, Kontrollierbarkeit und klaren Zuständigkeiten.
DORA trifft AI Act: Keine Silos in der KI-Steuerung
Besonders anspruchsvoll wird es, wenn DORA und der EU AI Act parallel Anwendung finden. Während DORA auf operative Resilienz, Risikomanagement und Drittparteiensteuerung abzielt, verfolgt der AI Act einen risikobasierten Ansatz mit Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht.
Für Institute bedeutet das: KI-Governance darf nicht fragmentiert organisiert werden. Wer regulatorische Anforderungen isoliert behandelt, riskiert ineffiziente Parallelstrukturen statt eines integrierten Steuerungsmodells.
Von der Momentaufnahme zur Dauerüberwachung
Auch international – etwa auf OECD-Ebene – wird deutlich: Die Herausforderung liegt weniger in neuen Regelwerken als in deren Anwendung auf dynamische, lernende Systeme. Die Aufsicht entwickelt sich daher weiter: weg von punktuellen Prüfungen hin zu kontinuierlicher Überwachung und stärker dialogorientierten Prozessen.
Fazit: KI ist Managementaufgabe
Die Regulierung von KI entscheidet sich nicht allein im Gesetzestext, sondern in der praktischen Steuerbarkeit. KI ist damit kein reines IT-Thema mehr, sondern eine Frage der Unternehmensführung.
Wer KI einsetzt, muss erklären können:
- wie Entscheidungen zustande kommen,
- wie Risiken überwacht werden und
- wie im Zweifel eingegriffen wird.
Über diesen Podcast
Alles Legal – Fintech-Recht kompakt liefert jede Woche spannende Insights zum Thema Recht und Compliance im Banking.
Der Podcast ist eine Kooperation zwischen Payment & Banking und PayTechLaw. Wir erklären Ihnen die rechtlichen Entwicklungen der Finanzwelt kompakt, verständlich und jeden Mittwoch neu. Seit 2021 geben die PayTechLaw-Autor:innen und Annerton-Rechtsanwälte dem Podcast die nötige Tiefe, ohne dabei im Juristen-Kauderwelsch zu versinken. Egal ob PSD3, DORA oder FiDA: Wir liefern Ihnen den Kontext, den Sie brauchen. In 20 Minuten. Ohne Umwege.
