AI Act: EU verabschiedet weltweit erstes KI-Gesetz

Was regelt die KI-Verordnung?

Die KI-Verordnung soll einheitliche Regelungen innerhalb der EU schaffen, um bessere Bedingungen für die Entwicklung und Nutzung der neuen Technologie zu gewährleisten. Konkret soll die Verordnung für mehr Sicherheit, Transparenz, Nachvollziehbarkeit und Umweltschutz sorgen sowie Diskriminierung verhindern. Zu diesem Zweck sollen KI-Systeme stets menschlicher Kontrolle unterliegen. 

Der europäische Verordnungsgeber hat zur Einordnung verschiedener Systeme einen risikobasierten Ansatz gewählt. Die am stärksten regulierten Kategorien sind Systeme mit unannehmbaren Risiken und Hochrisikosysteme.

Die Entwicklung oder der Einsatz von Systemen mit unannehmbaren Risiken ist verboten. Zu dieser Kategorie zählen beispielsweise kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, soziales Scoring, biometrische Identifizierung und Kategorisierung natürlicher Personen sowie Gesichtserkennung.

Hochrisiko-KI-Systeme werden in zwei Gruppen aufgeteilt. Zu ihnen gehören zum einen solche Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, die Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge. Zum anderen sind es Systeme, die in spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen. Hierzu zählen kritische Infrastrukturen, die allgemeine und berufliche Bildung, der Zugang zu und die Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen, die Strafverfolgung und die Unterstützung bei der Auslegung und Anwendung von Gesetzen. Hochrisiko-Systeme werden während ihres gesamten Einsatzes bewertet und EU-Bürger haben das Recht zur Beschwerde bei den zuständigen Aufsichtsbehörden.

KI-Systeme, die zur Interaktion mit natürlichen Personen bestimmt sind, müssen gewisse Transparenzpflichten erfüllen, die Herstellung illegaler Inhalte verhindern und das EU-Urheberrecht beachten. Das bedeutet auch, dass KI-generierte Inhalte gekennzeichnet werden müssen, soweit sie nicht offensichtlich als solche erkennbar sind.

Sogenannte General Purpose Artifical Intelligence Models (GPAI) sind von der Verordnung betroffen. Darunter werden Modelle verstanden, die keinen spezifischen Anwendungszweck haben, sondern eine Vielzahl von Anwendungsmöglichkeiten haben. Als prominentestes Beispiel lässt sich hier ChatGPT von OpenAI nennen. Da sich diese Modelle oft nicht unter eine der obigen Kategorien subsumieren lassen, hat der Verordnungsgeber sie gesondert aufgenommen und stellt ebenfalls gewisse Transparenz-, Dokumentations- und Konzeptionsanforderungen an die Anbieter.

Letztlich soll kleinen und mittleren Unternehmen von den nationalen Behörden eine realitätsnahe Testumgebung zur Verfügung gestellt werden, um Innovation zu fördern.

Was sind die Hauptkritikpunkte an der KI-Verordnung?

Kritiker befürchten, dass die KI-Branche durch die Verordnung im internationalen Vergleich zu stark reguliert würde und somit bei der Entwicklung zurückfallen könne.

Zudem besteht die Sorge der Rechtsunsicherheit. Entgegen der Intention des Verordnungsgebers entstehe kein einheitliches Regelungsniveau in der EU, da die Vorgaben zu unspezifisch seien und den nationalen Gesetzgebern eigene Regelungsfreiheiten ließen. Der KI-Bundesverband äußerte die Befürchtung, dass der deutsche Gesetzgeber die Regelungen „zu 120 Prozent genau nimmt“, während in anderen Mitgliedstaaten weniger strenge Vorschriften erwartet würden.

Außerdem sei kein klarer Regelungszweck erkennbar. Das ursprünglich angestrebte Ziel der Schaffung von menschenzentrierter und vertrauenswürdiger KI sei im Laufe des Gesetzgebungsverfahren durch anders gelagerte Ziele wie Schutz des Urheberrechts und der Umwelt verwässert worden.

Ob die Ziele des europäischen Verordnungsgeber erreicht werden oder sich die Befürchtungen der Kritiker bewahrheiten werden, wird die Praxis in den nächsten Jahren zeigen.

Im Ergebnis bringt der AI-Act gewisse Grundsätze für KI in ein Gesetz und sorgt daher für Orientierung. Im Übrigen wird es im Einzelfall bei KI-Anwendungen daneben darauf ankommen, die weiteren Gesetze wie DSGVO, Urheberrechtsgesetz, etc. zu beachten.

Dr. Christian Lenz

Rechtsanwalt / Fachanwalt für Steuerrecht / Fachanwalt für Informationstechnologierecht

Zum Profil von Dr. Christian Lenz

Joshua Kniesburges

Rechtsanwalt

Zum Profil von Joshua Kniesburges

Kirsten Garling

Rechtsanwältin

Zum Profil von Kirsten Garling

Kontakt

Nehmen Sie mit uns Kontakt auf

Mail Kontaktformular Telefon +49 228 81000 0 Newsletter Newsletter
Durch das Laden des YouTube Videos erklären Sie sich damit einverstanden, dass Cookies durch YouTube und Google gesetzt werden, und dadurch Daten an diese Anbieter übermittelt werden. Wir verarbeiten die Daten um die Zugriffe auf unsere YouTube-Videos analysieren zu können oder die Wirksamkeit unserer Werbung und Anzeigen auszuwerten. YouTube und Google verarbeiten die Daten auch zu eigenen Zwecken. Zudem erklären Sie sich auch damit einverstanden, dass Ihre Daten in die USA übermittelt werden, obwohl in den USA das Risiko besteht, dass US-Behörden zu Überwachungszwecken Zugriff auf Ihre Daten erhalten und Ihnen dagegen möglicherweise keine ausreichenden Rechtsschutzmöglichkeiten zustehen. Weitere Informationen finden Sie in unserer Datenschutzerklärung.
YouTube Video laden
Permalink