AI Act: EU verabschiedet weltweit erstes KI-Gesetz

Was regelt die KI-Verordnung?

Die KI-Verordnung soll einheitliche Regelungen innerhalb der EU schaffen, um bessere Bedingungen für die Entwicklung und Nutzung der neuen Technologie zu gewährleisten. Konkret soll die Verordnung für mehr Sicherheit, Transparenz, Nachvollziehbarkeit und Umweltschutz sorgen sowie Diskriminierung verhindern. Zu diesem Zweck sollen KI-Systeme stets menschlicher Kontrolle unterliegen. 

Der europäische Verordnungsgeber hat zur Einordnung verschiedener Systeme einen risikobasierten Ansatz gewählt. Die am stärksten regulierten Kategorien sind Systeme mit unannehmbaren Risiken und Hochrisikosysteme.

Die Entwicklung oder der Einsatz von Systemen mit unannehmbaren Risiken ist verboten. Zu dieser Kategorie zählen beispielsweise kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, soziales Scoring, biometrische Identifizierung und Kategorisierung natürlicher Personen sowie Gesichtserkennung.

Hochrisiko-KI-Systeme werden in zwei Gruppen aufgeteilt. Zu ihnen gehören zum einen solche Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, die Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge. Zum anderen sind es Systeme, die in spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen. Hierzu zählen kritische Infrastrukturen, die allgemeine und berufliche Bildung, der Zugang zu und die Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen, die Strafverfolgung und die Unterstützung bei der Auslegung und Anwendung von Gesetzen. Hochrisiko-Systeme werden während ihres gesamten Einsatzes bewertet und EU-Bürger haben das Recht zur Beschwerde bei den zuständigen Aufsichtsbehörden.

KI-Systeme, die zur Interaktion mit natürlichen Personen bestimmt sind, müssen gewisse Transparenzpflichten erfüllen, die Herstellung illegaler Inhalte verhindern und das EU-Urheberrecht beachten. Das bedeutet auch, dass KI-generierte Inhalte gekennzeichnet werden müssen, soweit sie nicht offensichtlich als solche erkennbar sind.

Sogenannte General Purpose Artifical Intelligence Models (GPAI) sind von der Verordnung betroffen. Darunter werden Modelle verstanden, die keinen spezifischen Anwendungszweck haben, sondern eine Vielzahl von Anwendungsmöglichkeiten haben. Als prominentestes Beispiel lässt sich hier ChatGPT von OpenAI nennen. Da sich diese Modelle oft nicht unter eine der obigen Kategorien subsumieren lassen, hat der Verordnungsgeber sie gesondert aufgenommen und stellt ebenfalls gewisse Transparenz-, Dokumentations- und Konzeptionsanforderungen an die Anbieter.

Letztlich soll kleinen und mittleren Unternehmen von den nationalen Behörden eine realitätsnahe Testumgebung zur Verfügung gestellt werden, um Innovation zu fördern.

Was sind die Hauptkritikpunkte an der KI-Verordnung?

Kritiker befürchten, dass die KI-Branche durch die Verordnung im internationalen Vergleich zu stark reguliert würde und somit bei der Entwicklung zurückfallen könne.

Zudem besteht die Sorge der Rechtsunsicherheit. Entgegen der Intention des Verordnungsgebers entstehe kein einheitliches Regelungsniveau in der EU, da die Vorgaben zu unspezifisch seien und den nationalen Gesetzgebern eigene Regelungsfreiheiten ließen. Der KI-Bundesverband äußerte die Befürchtung, dass der deutsche Gesetzgeber die Regelungen „zu 120 Prozent genau nimmt“, während in anderen Mitgliedstaaten weniger strenge Vorschriften erwartet würden.

Außerdem sei kein klarer Regelungszweck erkennbar. Das ursprünglich angestrebte Ziel der Schaffung von menschenzentrierter und vertrauenswürdiger KI sei im Laufe des Gesetzgebungsverfahren durch anders gelagerte Ziele wie Schutz des Urheberrechts und der Umwelt verwässert worden.

Ob die Ziele des europäischen Verordnungsgeber erreicht werden oder sich die Befürchtungen der Kritiker bewahrheiten werden, wird die Praxis in den nächsten Jahren zeigen.

Im Ergebnis bringt der AI-Act gewisse Grundsätze für KI in ein Gesetz und sorgt daher für Orientierung. Im Übrigen wird es im Einzelfall bei KI-Anwendungen daneben darauf ankommen, die weiteren Gesetze wie DSGVO, Urheberrechtsgesetz, etc. zu beachten.