Lässt sich ChatGPT datenschutzkonform anwenden?

Der Chatbot ChatGPT des US-amerikanischen Unternehmens OpenAI erfreut sich seit seiner Veröffentlichung im November 2022 großer Beliebtheit. Mit dem Programm können dialogische „Unterhaltungen“ geführt und Aufgaben gelöst werden. Die Antworten von ChatGPT stehen den Antworten eines menschlichen Gesprächspartners inhaltlich und grammatikalisch manchmal in nichts nach, der Anwendungsbereich ist beeindruckend. Und doch gerät die Künstliche Intelligenz immer wieder in die Kritik.

Gibt es bekannte Datenpannen bei ChatGPT?

Abgesehen davon, dass Kritiker das Thema Urheberrecht oder auch die Qualität der Antworten von ChatGPT mit Argwohn betrachten, rückt das Thema Datenschutz immer wieder in den Fokus der Diskussion. So tauchten bei manchen Nutzern die Konversationen anderer Nutzer mit dem Bot auf, obwohl keine Verbindung zwischen ihnen bestand. OpenAI gestand in diesem Zusammenhang ein, dass über die Konversationen hinaus auch die Zahlungsdaten von Nutzern der kostenpflichtigen Version „ChatGPT Plus“ für Unbefugte einsehbar war.

Wie gehen die Datenschutzbehörden mit ChatGPT um?

Ende März wurde ChatGPT von der italienischen Datenschutzbehörde in Italien gesperrt. Die Behörde war der Ansicht, dass ChatGPT einerseits gegen Datenschutzregeln verstoße, da es zu den bereits genannten Datenschutzvorfällen gekommen war. ChatGPT informiere seine Nutzer zudem nicht über die Art der Verarbeitung der von ihnen angegebenen Daten. Es sammle außerdem in großem Umfang personenbezogene Daten aus Unterhaltungen, um aus diesen zu lernen, ohne, dass es dafür eine Rechtsgrundlage gebe. Andererseits verstoße ChatGPT auch gegen Jugendschutzregeln, da es bei der Nutzung des Bots keinen Filter zur Altersüberprüfung gebe, obwohl ChatGPT sich nur an Personen über 13 Jahren richten soll und bisweilen Antworten ausgibt, die für Kinder unangemessen sind. Wenige Tage später gab auch der kanadische Datenschutzbeauftragte bekannt, eine Untersuchung gegen OpenAI eingeleitet zu haben, nachdem eine Beschwerde über eine mutmaßliche „Sammlung, Verwendung und Weitergabe von persönlichen Daten ohne Zustimmung“ eingereicht worden war. 

Wie ist die Lage in Deutschland?

Eine Inanspruchnahme des ChatGPT-Entwicklers OpenAI durch die deutschen Behörden dürfte schwierig sein, da OpenAI keine Niederlassung in Europa oder gar Deutschland hat. Denkbar wäre die Sperrung von ChatGPT. Dabei ist zu beachten, dass Datenschutz in Deutschland grundsätzlich Sache der Bundesländer ist, sodass es den Landesdatenschutzaufsichtsbehörden der Bundesländer obliegen würde, die Nutzung von ChatGPT einzuschränken. Dies wird aktuell zumindest diskutiert: Eine Sprecherin des Bundesdatenschutzbeauftragten sagte kürzlich, dass ein mit Italien vergleichbares Vorgehen bezüglich ChatGPT grundsätzlich auch in Deutschland möglich sei. Man habe die italienische Datenschutzbehörde um „weiterführende Informationen“ zur Sperrung von ChatGPT gebeten. Gegen eine Sperrung von ChatGPT sprach sich hingegen das Bundesministerium für Digitales und Verkehr (BMDV) aus. Dieses verweist auf die vielfältigen Einsatzmöglichkeiten von ChatGPT. Man brauche kein Verbot von KI-Anwendungen, sondern Wege, um Werte wie Demokratie und Transparenz zu gewährleisten. Man wolle moderne Tools wie ChatGPT anwenden und nicht zurückdrängen.

Wie wahrscheinlich ist eine Sperrung in Deutschland?

Im Ergebnis gibt es bislang keine klare Haltung zu der Frage, ob ChatGPT hierzulande gesperrt werden soll. Doch selbst, wenn es zu einer solchen Sperrung kommen sollte, wäre diese wohl nur vorübergehend. ChatGPT hat sich bereits kooperativ gezeigt und angekündigt, dass man mit der italienischen Datenschutzbehörde zusammenarbeiten wolle und selbst ebenfalls davon überzeugt sei, dass die KI stärker reguliert werden müsse. Bei einer Sperrung in Deutschland wäre daher davon auszugehen, dass diese nicht lange anhalten und wieder aufgehoben werden würde, sobald geeignete Maßnahmen implementiert sind, die ein ausreichend hohes Datenschutzniveau bei der Nutzung von ChatGPT gewährleisten. 

Sollte ich auf die Nutzung von ChatGPT vorerst verzichten?

Aus datenschutzrechtlicher Sicht ist die Nutzung von ChatGPT aktuell bedenklich. Wir raten insbesondere davon ab, ChatGPT oder vergleichbare künstliche Intelligenzen mit besonderen personenbezogenen Daten wie etwa Gesundheitsdaten zu speisen. Da die Verarbeitung der personenbezogenen Daten von OpenAI derzeit nicht transparent gehandhabt wird, raten wir davon ab, persönliche Fragestellungen über das Tool zu bearbeiten und ein Bewusstsein dafür zu entwickeln, dass es in der jüngsten Vergangenheit zu Datenpannen gekommen ist, bei denen Chatverläufe und Zahlungsinformationen für andere Nutzer einsehbar waren. Auf privater Ebene empfehlen wir, insbesondere ein Auge auf die Nutzung von Minderjährigen zu haben oder diese weitestgehend einzuschränken. Für den Gebrauch im beruflichen Kontext empfehlen wir das Aufsetzen eines Regelwerks zum Gebrauch bzw. eine Ergänzung Ihrer Compliance-Richtlinie. Gerne unterstützen unsere Expert:innen Sie dabei.