Der Fortschritt in der Technologie hat den Einsatz von Künstlicher Intelligenz (KI) in vielen Branchen vorangetrieben, und der Finanzsektor bildet da keine Ausnahme. Vor allem in der Anlageberatung und im Portfoliomanagement werden vom Einsatz von KI erhebliche Potenziale erwartet. Doch mit den Chancen kommen auch Risiken. Die Europäische Wertpapier- und Marktaufsichtsbehörde (ESMA) hat sich mit der Thematik befasst und ihre Ergebnisse in dem Public Statement: On the use of Artificial Intelligence (AI) in the provision of retail investment services (https://www.esma.europa.eu/sites/default/files/2024-05/ESMA35-335435667-5924__Public_Statement_on_AI_and_investment_services.pdf) veröffentlicht. Darin adressiert ESMA die Herausforderungen und bieten Orientierung für Wertpapierfirmen, um den Einsatz von KI regelkonform und kundenorientiert zu gestalten.
Chancen und Risiken des KI-Einsatzes im Finanzsektor
KI wird im Finanzsektor in verschiedenen Bereichen eingesetzt, etwa für Chatbots im Kundensupport oder virtuelle Assistenten, die Kunden unterstützen oder für komplexe Datenanalysen für Investmententscheidungen. Weitere Anwendungen finden sich in der Unterstützung von Compliance-Aufgaben, der Risikoüberwachung und Betrugserkennung. Die Automatisierung dieser Prozesse verspricht eine Effizienzsteigerung und eine erweiterte Basis zur Entscheidungsfindung. Mit dem Einsatz sind aber auch Risiken verbunden: Intransparente Entscheidungen, Risiken in Bezug auf den Datenschutz und die Gefahr fehlerhafter Ergebnisse durch unzureichende Dateneingaben sind nur einige der Herausforderungen, die bewältigt werden müssen.
Der Inhalt des Public Statement
Um den genannten Risiken zu begegnen und die Interessen der Kunden zu wahren, gibt die ESMA im Rahmen des Public Statement neue Leitlinien vor. Diese Leitlinien sollen sicherstellen, dass der Einsatz von KI im Einklang mit den Verhaltensanforderungen der MiFID II erfolgt.
Besondere Anforderungen legt die ESMA für den Einsatz von KI im Zusammenhang mit Investmententscheidungen fest. Wertpapierfirmen sollten bei der Auswahl der Daten, die den Input solcher Modelle bilden, sicherstellen, dass die Daten:
- relevant,
- ausreichend, und
- repräsentativ.
Beim Training solcher Modelle sei darauf zu achten, dass genaue, umfassende und ausreichend breite Datensätze verwendet würden.
Die ESMA weist darauf hin, dass Kunden auf den Einsatz von KI ausdrücklich hingewiesen werden sollten. Mitarbeiter und Management sollten im Umgang mit KI-Risiken sind hierbei von entscheidender Bedeutung.
Die ESMA fordert zudem gründliche Tests und Überprüfungen der eingesetzten KI-Systeme, um die Leistung der eingesetzten Systeme und die Auswirkungen des Einsatzes auf die Performance des Angebots zu messen. Hier bieten sich etwa Vergleiche zu Indexentwicklungen oder historischen Daten der Wertpapierfirma an. Datenschutzrechtliche Bestimmungen müssen strikt eingehalten und Kundenbeschwerden in Bezug auf den KI-Einsatz sorgfältig dokumentiert werden.
Umsetzung der Leitlinien in der Praxis
Durch das Public Statement wird klargestellt, dass der Einsatz von KI besondere Anforderungen an interne Prozesse bedeutet. Bei internen Modellen (bzw. dem Einsatz von LLM, die auf die spezischen Anforderungen einer Wertpapierfirma angepasst werden) ist darauf zu achten, dass klar dokumentiert ist, zu welchem Zweck die Modelle verwendet werden und auf welcher Datenbasis das Training erfolgte. Des Weiteren ist sicherzustellen, dass laufend gemonitored wird, welche Leistung die Modelle erbringen. Des Weiteren ist gegenüber Kunden darzulegen, ob und zu welchem Zweck KI eingesetzt wird.
Fazit: Verantwortungsvoller Umgang mit KI im Finanzsektor
Die ESMA hat mit ihren neuen Leitlinien die Anforderungen an den Einsatz von KI konkretisiert. Mit der Veröffentlichung des Public Statement wird zunächst klar, dass der Einsatz von KI für Wertpapierfirmen möglich ist.. Allerdings gelten besondere Anforderungen, die sich wesentlich von den bisherigen unterscheiden. Die Vorgaben der ESMA sind hier nicht isoliert zu betrachten, sondern müssen im Zusammenhang mit den Regelungen insbesondere aus dem AI-Act betrachtet werden.till
