Das EU-Verordnung über künstliche Intelligenz[1], auch bekannt als KI-Verordnung, wurde als weltweit erster umfassender Rechtsrahmen für künstliche Intelligenz konzipiert. Diese Verordnung wurde im Jahr 2024 verabschiedet und soll KI anhand eines risikobasierten Ansatzes regulieren: Je schwerwiegender die potenziellen Auswirkungen auf Menschen, die Sicherheit oder die Grundrechte sind, desto strenger sind die Vorschriften.
Inhaltsverzeichnis
Doch noch bevor die KI-Verordnung vollständig in Kraft tritt, hat die EU bereits beschlossen, es durch eine am 7. Mai 2026 zwischen dem Rat der EU und dem Europäischen Parlament erzielte Einigung zu ändern. Mit der endgültigen Zustimmung des Europäischen Parlaments zu dieser Aktualisierung des KI-Verordnung am 16. Juni 2026 bedürfen die vorgeschlagenen Änderungen nun nur noch der formellen Verabschiedung durch den Rat der EU, bevor sie in Kraft treten können. Die Aktualisierung der KI-Verordnung wird in die sogenannte „Digital-Omnibus“-Verordnung aufgenommen, die darauf abzielt, technische Änderungen an einem umfangreichen Korpus digitaler Rechtsvorschriften vorzunehmen, die so ausgewählt wurden, dass sie Unternehmen, öffentlichen Verwaltungen und Bürgern gleichermaßen unmittelbare Erleichterungen bringen und die Wettbewerbsfähigkeit fördern.
Trotz der geplanten Änderung der KI-Verordnung bleibt dessen Kernstruktur erhalten. Verbotene KI-Praktiken, Verpflichtungen für KI-Modelle mit allgemeinem Verwendungszweck, Transparenzanforderungen und Vorschriften für Hochrisiko KI-Systeme stehen weiterhin im Mittelpunkt des Rechtsrahmens. Die Aktualisierung der KI-Verordnung zielt hauptsächlich darauf ab, die Fristen für einige Bestimmungen der KI-Verordnung zu verschieben, strengere Vorschriften zum Schutz von Kindern vor sexuellem Missbrauch einzuführen (Verbot von „Nudifier“ Apps) und Überschneidungen zwischen bestehenden Vorschriften und der KI-Verordnung zu verringern.
Warum wird die KI-Verordnung geändert?
Die KI-Verordnung ist eine ehrgeizige Rechtsvorschrift. Sie betrifft KI-Entwickler, Unternehmen, die KI einsetzen, Importeure, Vertreiber, Behörden sowie Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Zudem steht sie im Zusammenhang mit bestehenden EU-Rechtsvorschriften zu Produktsicherheit, Maschinen, Medizinprodukten, Spielzeug, Datenschutz und branchenspezifischen Regelungen.
Die KI-Verordnung bietet einen willkommenen Rechtsrahmen für den Einsatz von KI innerhalb der Union, ihre Umsetzung stellt jedoch auch eine echte Herausforderung dar. Fachleute, die KI-Systeme bereitstellen oder einsetzen, müssen sich mit mehreren durch das Inkrafttreten der KI-Verordnung entstandenen Compliance-Hürden auseinandersetzen. Dazu gehört die Beurteilung, ob die von den Fachleuten bereitgestellten oder eingesetzten KI-Systeme als „Hochrisiko-KI-Systeme” eingestuft werden könnten, die Prüfung der Notwendigkeit, ihre KI-Systeme in der dafür vorgesehenen EU-Datenbank zu registrieren, sowie mögliche Unsicherheiten hinsichtlich der zuständigen Aufsichtsbehörde und mögliche Überschneidungen zwischen den sektoralen Sicherheitsvorschriften der EU und der KI-Verordnung.
Gleichzeitig steht die EU unter Druck, im Bereich der künstlichen Intelligenz wettbewerbsfähig zu bleiben. Die europäischen Entscheidungsträger möchten eine Situation vermeiden, in der die KI-Verordnung so komplex wird, dass sie Innovationen hemmt – insbesondere für kleinere Unternehmen und europäische Scale-ups.
Die Aktualisierung der KI-Verordnung zielt darauf ab, die meisten der oben genannten Probleme zu lösen.
Was sind die wichtigsten Änderungen?
1. Verlängerte Fristen für die Anwendung bestimmter Bestimmungen der KI-Verordnung
Die neuen Fristen, auf die sich der Rat der EU und das Europäische Parlament geeinigt haben, lauten wie folgt:
- 2. Dezember 2026: Für KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, soll die Anwendung bestimmter Transparenzpflichten in Bezug auf KI-generierte Inhalte, einschließlich maschinenlesbarer Kennzeichnung / Wasserzeichen, voraussichtlich bis zum 2. Dezember 2026 verschoben werden. Dies entspricht einer kürzeren Verlängerung als ursprünglich von der Kommission vorgeschlagen, die den 2. Februar 2027 vorgesehen hatte; und
- August 2027: Frist für die Mitgliedstaaten zur Einrichtung von KI-Regulierungs-Sandboxes;
- August 2028: Geltung der Verpflichtungen für Hochrisiko-KI-Systeme, die als Sicherheitsbauteile in Produkten wie Aufzügen oder Spielzeug verwendet werden.
Dies ist eine erhebliche Fristverlängerung. Sie geben Unternehmen mehr Zeit, ihre KI-Systeme zu klassifizieren, technische Dokumentationen zu erstellen, Governance-Prozesse aufzubauen, menschliche Aufsicht zu implementieren und auf Normen und Leitlinien zu warten, die für die praktische Einhaltung der Vorschriften noch erforderlich sind.
Diese neuen Fristen ändern jedoch nichts an der Tatsache, dass die KI-Verordnung bereits in Kraft ist und dass mehrere Bestimmungen bereits Anwendung finden. Die durch die Aktualisierung der KI-Verordnung eingeführten neuen Fristen sind lediglich eine Anerkennung der Tatsache, dass Fachleuten mehr Zeit eingeräumt werden sollte, um bestimmte Bestimmungen einzuhalten.
2. Änderungen zur Verringerung von Regelungsüberschneidungen
Eine weitere wichtige Änderung ist die Verringerung von Regelungsüberschneidungen. Wenn KI bereits Bestandteil eines Produkts ist, das unter sektorale Sicherheitsvorschriften der EU fällt, zielt die Aktualisierung der KI-Verordnung darauf ab, Doppelregelungen zwischen diesen Vorschriften und der KI-Verordnung zu vermeiden. Dies ist insbesondere für industrielle KI und Maschinen von Bedeutung. Das Ziel besteht nicht darin, Sicherheitsstandards zu senken, sondern zu vermeiden, dass Unternehmen gezwungen sind, für dasselbe Risiko zwei sich überschneidende Regelwerke einzuhalten.
3. Klärung des Begriffs „Sicherheitsbauteil“
Die Reform klärt zudem den Begriff der „Sicherheitsbauteil“. KI-Funktionen, die lediglich Nutzer unterstützen oder die Leistung optimieren, sollten nicht automatisch als hoch Risiko eingestuft werden, wenn ihr Ausfall kein echtes Gesundheits- oder Sicherheitsrisiko darstellt. Dies ist eine nützliche Klarstellung für Unternehmen, die KI in betrieblichen, industriellen oder leistungssteigernden Werkzeugen einsetzen.
4. KMU-ähnliche Erleichterungen werden auf kleine Mid-Cap-Unternehmen ausgeweitet
Die derzeit für KMU geltenden vereinfachten Vorschriften sollen künftig auch für bestimmte kleine Mid-Cap-Unternehmen gelten, d. h. für Unternehmen mit bis zu 750 Beschäftigten und entweder einem Jahresumsatz von höchstens EUR 150 Millionen oder einer Jahresbilanzsumme von höchstens EUR 129 Millionen. Diese Erleichterungen umfassen insbesondere reduzierte Anforderungen an die technische Dokumentation sowie eine verhältnismäßigere Behandlung bei der Bemessung von Sanktionen.
Dies ist relevant, weil viele innovative KI-Unternehmen keine kleinen Start-ups mehr sind, aber auch noch keine großen Unternehmen. Nach dem derzeitigen AI Act können diese Unternehmen einer regulatorischen Belastung ausgesetzt sein, die im Verhältnis zu ihrer Größe und ihren Ressourcen unverhältnismäßig ist. Die Ausweitung vereinfachter Dokumentationsanforderungen und eines verhältnismäßigeren Durchsetzungsansatzes auf kleine Mid-Cap-Unternehmen sollte unnötige regulatorische Reibungsverluste verringern, ohne diese Unternehmen insgesamt vom Anwendungsbereich des AI Act auszunehmen.[2]
5. Neue Maßnahme zur Erkennung und Korrektur von Verzerrungen in KI-Systemen
Eine der sensibleren Änderungen betrifft die Verwendung besonderer Kategorien personenbezogener Daten, etwa Daten, aus denen die rassische oder ethnische Herkunft, politische Meinungen oder ähnliche geschützte Merkmale hervorgehen.
Das Update des AI Act würde die Verarbeitung solcher Daten erlauben, soweit dies zur Erkennung und Korrektur von Verzerrungen in KI-Systemen unbedingt erforderlich ist und angemessene Schutzmaßnahmen eingehalten werden. Dies ist ein sensibler, aber wichtiger Punkt. In manchen Fällen kann es schwierig sein zu beurteilen, ob ein KI-System diskriminierende Ergebnisse hervorbringt, ohne Daten zu geschützten Kategorien zu verwenden. Die Reform versucht daher, einen Ausgleich zwischen Datenschutz und Diskriminierungsprävention herzustellen.
6. Ein neues Verbot von KI-Tools zur „Nudifizierung“
Bei der Reform geht es nicht nur um Vereinfachung. Sie stärkt auch den Schutz vor einer ganz bestimmten und schädlichen Nutzung von KI.
Die Aktualisierung führt ein Verbot von KI-Systemen ein, die ohne Einwilligung sexuell explizite oder intime Inhalte generieren, darunter sogenannte „Nudifizierungs“-Tools sowie KI-Systeme, die zur Erstellung von Material über sexuellen Kindesmissbrauch verwendet werden.
Dieser Teil der Reform zeigt, dass die EU bereit ist, zügig zu handeln, sobald neue KI-Risiken sichtbar werden. Das Verbot soll voraussichtlich am 2. Dezember 2026 in Kraft treten.
Was sollten Unternehmen nun tun?
Unternehmen sollten die zusätzliche Zeit nutzen, um den Einsatz von KI zu erfassen, KI-Systeme zu klassifizieren, festzustellen, ob bestimmte Systeme ein hohes Risiko darstellen könnten, Verträge mit KI-Anbietern zu überprüfen, interne Governance-Strukturen vorzubereiten und sicherzustellen, dass die Mitarbeiter die grundlegenden Risiken und Verpflichtungen im Zusammenhang mit KI verstehen.
Zwar erleichtert diese Aktualisierung die Umsetzung der KI-Verordnung und verschafft dem Markt mehr Spielraum, doch ändert sie nichts an den Kernprinzipien, auf denen die KI-Verordnung beruht. Fachleute sollten die verschobenen Leitlinien in vollem Umfang nutzen, um die Einhaltung der geänderten KI-Verordnung sicherzustellen, sobald alle Bestimmungen in Kraft treten. Fachleute sollten zudem darauf achten, das Inkrafttreten der technischen Standards und Leitlinien zu verfolgen, die die KI-Verordnung ergänzen sollen.
___________________________
[1] Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz
[2] Mid-Cap-Unternehmen sind in der Empfehlung (EU) 2025/1099 der Kommission definiert
