Der Erfolg von Chatbots wie ChatGPT hat zu Diskussionen über den Einsatz von künstlicher Intelligenz (“KI”) im Finanzsektor geführt. Chatbots verdanken ihre steigende Popularität vor allem dem Einsatz von maschinellem Lernen, einer Unterklasse der KI, die eine schnelle Erfassung und Analyse von Daten ermöglicht.
Die KI Verordnung der europäischen Union
Mit zunehmender Leistung und breiter Verfügbarkeit hat der Einsatz von KI im Jahr 2021 zum Entwurf eines Vorschlags des Europäischen Parlaments und des Rates für eine Verordnung mit harmonisierten Vorschriften über KI geführt, der nun vom Europäischen Parlament am 13. März 2024 angenommen wurde (die sogenannte “KI-Verordnung“).
Diese KI-Verordnung ist Teil eines umfassenderen KI-Pakets, das zusätzliche politische Maßnahmen zur Unterstützung der Entwicklung vertrauenswürdiger KI-Systeme umfasst. Es soll einen koordinierten Plan für künstliche Intelligenz vorgeben, der Investitionen in KI beschleunigen, KI-Strategien und -Programme setzen und die KI-Politik angleichen soll, um eine Fragmentierung der Gesetzgebung innerhalb Europas zu verhindern.
Hauptmerkmale der KI-Verordnung
Die KI-Verordnung zielt darauf ab, eine dauerhafte Rechtsgrundlage für den Einsatz von KI zu schaffen. Die Ziele der KI-Verordnung sind der Schutz der Grundrechte, die Harmonisierung des rechtlichen Umfelds für KI auf europäischer Ebene und die Förderung von Innovationen in der Europäischen Union.
Zu diesem Zweck enthält die KI-Verordnung mehrere besondere Merkmale, von denen wir die wichtigsten im Folgenden aufführen.
1. Integration in bestehende Gesetzestexte
Die KI-Verordnung sollte als Grundlage für die Gesetzgebung zu künstlicher Intelligenz auf europäischer Ebene dienen und in den bestehenden Rechtsrahmen jedes Mitgliedstaats integriert werden.
In Bezug auf die Finanz- und Bankenregulierung ist in Erwägungsgrund 158 der KI-Verordnung zu lesen, dass die für die Überwachung und Durchsetzung von Rechtsakten wie der Verordnung (EU) Nr. 575/2013 über Aufsichtsanforderungen an Kreditinstitute und Wertpapierfirmen zuständigen Behörden im Rahmen ihrer jeweiligen Zuständigkeiten als zuständige Behörden für die Überwachung der Umsetzung der KI-Verordnung benannt werden sollten.
Insgesamt zielt die KI-Verordnung darauf ab, Störungen zu minimieren, auch bei der Finanzregulierung, und sich auf bestehende Vorschriften und Institutionen zu stützen.
2. Schaffung eines Klassifizierungssystems auf der Grundlage des Risikos
Das Klassifizierungssystem für KI-Systeme lässt sich wie folgt zusammenfassen:
Erstens verbietet die KI-Verordnung in Artikel 5 eine Reihe von Anwendungen für KI-Systeme. So sind beispielsweise KI-Systeme, die unterschwellige Techniken außerhalb des Bewusstseins einer Person einsetzen, verboten, da sie ein unannehmbares Risiko für die Öffentlichkeit darstellen sollen.
Zweitens wird in der KI-Verordnung die Kategorie der mit hohem Risiko behafteten KI-Systeme eingeführt. In Artikel 6 der KI-Verordnung werden zwei Kriterien für die Einstufung festgelegt, nämlich:
- Die Verwendung des KI-Systems für hohe Risiken als Sicherheitskomponente oder als eigenständiges Sicherheitsinstrument für die Verwendung, die unter die in Anhang I der KI-Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fällt; und
- Das Produkt, das ein risikoreiches KI-System als Komponente verwendet, oder das KI-System selbst muss einer Konformitätsbewertung durch Dritte unterzogen werden. Die KI-Verordnung legt fest, dass sich diese Konformitätsbewertung auch auf die in Anhang I der KI-Verordnung aufgeführten Harmonisierungsrechtsvorschriften bezieht.
Die KI-Verordnung sieht grundlegende Transparenzpflichten vor, die für bestimmte KI-Systeme, z. B. für KI-Systeme mit allgemeinem Verwendungszweck, gelten sollen. So heißt es beispielsweise in Artikel 50 der KI-Verordnung, dass KI-Anbieter sicherstellen müssen, dass bestimmte KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ergibt sich aus den Umständen und dem Kontext der Nutzung.
Die Umsetzung der risikobasierten Einstufung von KI wird die folgenden bemerkenswerten Folgen haben :
- Risiken adressieren, die speziell durch KI-Anwendungen entstehen;
- Verbot von KI-Praktiken, die unannehmbare Risiken mit sich bringen;
- Festlegung klarer Anforderungen an KI-Systeme für Anwendungen mit hohem Risiko; und
- Eine Konformitätsbewertung vorzuschreiben, bevor ein bestimmtes KI-System in Betrieb genommen oder auf den Markt gebracht wird.
3. Besondere Ausnahmeregelung für den Einsatz der Polizei
Artikel 5 besagt, dass die Verwendung von biometrischen Fernidentifizierungssystemen “in Echtzeit” durch die Strafverfolgungsbehörden normalerweise verboten ist. Die KI-Verordnung sieht jedoch einige Ausnahmen vor für (i) bestimmte Opfer von Entführung oder Menschenhandel, (ii) die Abwehr einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Sicherheit natürlicher Personen oder (iii) Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird.
4. Neue Aufsichtsstrukturen auf EU-Ebene
Auf europäischer Ebene wird mit der KI-Verordnung ein Amt für künstliche Intelligenz eingerichtet (auf Englisch European Artificial Intelligence Board oder “EAIB”).
Ähnlich wie bestehende europäische Aufsichtsbehörde wie die ESMA wird die EAIB die Aufgabe haben, die Maßnahmen der verschiedenen zuständigen europäischen Behörden bei der Umsetzung der KI-Verordnung zu koordinieren und die Kommission und die nationalen Aufsichtsbehörden bei der Analyse und Reaktion auf neu auftretende Probleme im Bereich der KI zu unterstützen.
5. Schaffung einer KI-Sandbox
Da sich die Nutzung von KI-Systemen rasant entwickelt, ist das Ziel der KI-Verordnung nicht nur der Schutz der EU-Bürger, sondern auch die Förderung von Innovationen im Bereich der KI auf europäischer Ebene. Zu diesem Zweck hat die KI-Verordnung das Konzept der regulatorischen Sandbox (auf Deutsch, Reallabor) entwickelt.
Artikel 57 der KI-Verordnung besagt, dass ein KI-Sandbox Folgendes bieten muss “eine kontrollierte Umgebung, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den zukünftigen Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern.”
Ausblick
Die volle Wirkung dieses Gesetzes und seine praktische Umsetzung können noch nicht abgeschätzt werden. Die Einrichtung der EAIB wird zweifellos zu einer Vielzahl von Leitlinien und Stellungnahmen im Zusammenhang mit der KI-Verordnung führen und damit zur Ausweitung der Rechtslehre im Bereich der KI-Technologie in Europa beitragen.
Um die frühzeitige Umsetzung der in der KI-Verordnung vorgesehenen Maßnahmen zu fördern, hat die Europäische Kommission einen KI-Pakt initiiert, der Unternehmen dazu ermutigen soll, ihre Verfahren und Praktiken zur Einhaltung der KI-Verordnung mitzuteilen. Die Unternehmen werden auch ermutigt, sich zu verpflichten, auf die Einhaltung der KI-Verordnung hinzuarbeiten.
Insgesamt zielt die KI-Verordnung darauf ab, einen zukunftssicheren Rechtsetzungsansatz zu schaffen, der sich an das sich rasch verändernde Umfeld der KI-Technologie anpassen kann.
