Einsatz von KI – alles klar mit dem EU AI Act?

Die EU-Mitgliedstaaten haben das weltweit erste Gesetz zur Regulierung von KI verabschiedet. Ist damit alles geklärt? Unsere Expert:innen sprechen über den nicht immer einfachen Spagat zwischen Innovation und Risikoschutz.

Was hat es mit dem EU AI Act auf sich?

Der EU Artificial Intelligence Act (EU AI Act) ist das weltweit erste Gesetz zur Regulierung von KI. Ziel ist es, einen einheitlichen rechtlichen Rahmen zu schaffen, der den sicheren und ethischen Einsatz von KI gewährleistet. Das Gesetz unterscheidet zwischen verschiedenen Risikokategorien und legt fest, welche Anforderungen an KI-Systeme gestellt werden, um mögliche Risiken zu minimieren. Konkret soll das Gesetz für mehr Sicherheit, Transparenz, Nachvollziehbarkeit und Umweltschutz sorgen sowie Diskriminierung verhindern.

Warum bedarf es überhaupt einer Regulierung von KI und wer ist betroffen?

KI ist eine relativ neue Technologie mit großem Potenzial, aber auch großen Risiken, wenn sie nicht verantwortungsvoll eingesetzt wird. Die Regulierung ist daher notwendig, um bereits bei der Entwicklung und auch der anschließenden Nutzung den Schutz der Grundfreiheiten und -rechte sicherzustellen. Der europäische Gesetzgeber wollte aber nicht nur restriktiv tätig werden, sondern durch die Verordnung die Innovationen in der KI fördern, indem er dafür einen Rahmen setzt. 

Was versteht man unter dem risikobasierten Ansatz und welche Folgen hat die Zuordnung für den Einsatz von KI?

Der risikobasierte Ansatz des EU AI Act teilt KI-Systeme in folgende Risikokategorien ein:

KI-Systeme mit unakzeptablem Risiko sind grundsätzlich verboten. Dazu zählen u.a. Systeme für Social Scoring, also die Bewertung des Verhaltens von Personen und die darauf aufbauenden Einschränkungen durch Behörden, wie man es teils aus totalitären Staaten kennt. Außerdem zählen dazu KI-Systeme, die sich gezielt an besonders schützenswerte Personengruppen richten und deren Verhalten manipulieren soll, wie z.B. an Kinder oder Menschen mit Behinderung.

Die zweite Gruppe bilden die Hoch-Risiko-KI-Systeme. Zu ihnen gehören zum einen solche, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Das betrifft die Bereiche Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge. Zum anderen sind es Systeme, die in spezifische Bereiche fallen und die in einer EU-Datenbank registriert werden müssen. Hierzu zählen kritische Infrastrukturen, die allgemeine und berufliche Bildung, der Zugang zu und die Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen, die Strafverfolgung und die Unterstützung bei der Auslegung und Anwendung von Gesetzen. KI-Systeme dieser Gruppe unterliegen besonderen Transparenzpflichten und regelmäßigen Prüfungen. 

Für einige KI-Systeme mit bestimmten Anwendungsfällen, z.B. zur Emotionserkennung oder zur Erstellung von sogenannten Deepfakes, gelten spezielle Vorschriften.

KI-Systeme ohne besonderes Risiko sind hingegen weitgehend von der Regulierung befreit. Die KI-Verordnung enthält in hohem Maße Verpflichtungen für die Anbieter, also die Entwickler:innen von KI-Systemen. An Betreiber, also die Nutzer:innen der KI-Systeme, werden meist deutlich geringere Anforderungen gestellt.

Hat der EU AI Act die Frage nach Urheberrechten und geistigem Eigentum geklärt?

Der EU AI Act adressiert primär die Sicherheit für die Entwicklung und Nutzung von KI-Systemen. Urheberrechtliche Fragen werden nicht geklärt. Für diese Themen müssen aktuell weiterhin bestehende Gesetze herangezogen werden. Aufgrund der Neuheit der Technologie ergeben sich hier neue Rechtsfragen, auf die es bislang mangels gefestigter Rechtsprechung oder angepasster Rechtsordnung keine klaren Antworten gibt. Ein Beispiel aus unserer Beratungspraxis ist beispielsweise der Schutz von KI-generierten Inhalten. Diese sind nicht urheberrechtsfähig, da dies einen menschlichen Schöpfer voraussetzt. Nun kann man sich die Frage stellen, wann die KI als Schöpfer gilt und wann ein menschlich geschaffenes Werk vorliegt, das unter Zuhilfenahme von KI als Werkzeug erzeugt wurde. Unternehmen können hier nur im Einzelfall prüfen, ob und wie sie derartige Inhalte nutzen oder schützen können.

Kann ich weitverbreitete Anwendungen wie den MS Copilot, ChatGPT oder OpenAI einfach so verwenden?

Die Nutzung weitverbreiteter KI-Anwendungen wie MS Copilot, ChatGPT oder OpenAI ist grundsätzlich möglich, jedoch müssen Unternehmen sicherstellen, dass die rechtlichen Anforderungen gewahrt werden. Neben dem EU AI Act gilt es, auch weitere Rechtsbereiche im Blick zu behalten. Je nachdem, welche Informationen oder Daten mit einem KI-System verarbeitet werden, können auch gewerbliche Schutzrechte, der Datenschutz, das Geschäftsgeheimnisgesetz oder z.B. das Berufsrecht relevant werden. 

Wie sollte man in der Praxis vorgehen, wenn man KI-Anwendungen nutzen möchte?

Unternehmen sollten zunächst eine Risikoanalyse durchführen, um zu bestimmen, in welche Risikokategorie ihre geplanten KI-Anwendungen fallen. Daraus resultiert, ob und unter welchen Voraussetzungen ein KI-System entwickelt bzw. genutzt werden darf. Anschließend sollte geprüft werden, welche weiteren Rechtsgebiete durch den geplanten Einsatzzweck betroffen sind. In der Regel werden dies die vorgenannten Rechtsgebiete sein. Es sollten zudem mehrere KI-Anbieter verglichen werden, da je nach Sitzland des Anbieters unterschiedliche vertragliche Schutzmaßnahmen erforderlich sein können. Zudem sollte darauf geachtet werden, ob die Anbieter die eingegebenen Daten für eigene Zwecke, z.B. zum Training des KI-Modells, weiterverwenden werden.