Kleine Anfrage
Oliver Stirböck (Freie Demokraten) vom 19.06.2024
ChatGPT und Datenschutz
und
Antwort
Minister des Innern, für Sicherheit und Heimatschut
Quelle: 00725.pdf (hessen.de)
Inhalt
Vorbemerkung Fragesteller:
Im April und im Oktober 2023 hat der Hessische Datenschutzbeauftragte (HBDI) das Unternehmen Open AI aufgefordert, zu einem umfangreichen Fragenkatalog in Bezug auf den Chatbot ChatGPT Stellung zu nehmen. Die Fragen zielten auf die Bereiche „Grundsätze der Datenverarbeitung“, „Rechtmäßigkeit der Datenverarbeitung“, „Rechte betroffener Personen, Transparenz“, „Datensicherheit, Data Protection by Design, Data Protection by Default“, „Datenschutz-Folgenabschätzung“, „Besonderer Schutz von Kindern und Jugendlichen“, „Übermittlung von Daten außerhalb der Europäischen Union“ und „Nutzung durch andere Dienste oder Unternehmen“. Das amerikanische Unternehmen OpenAI betreibt mit ChatGPT den am weitesten verbreiteten Chatbot auf der Basis von Künstlicher Intelligenz. Microsoft und andere führende Softwareunternehmen wie SAP unterhalten verschiedene Kooperationen mit dem Unternehmen und integrieren diese Anwendungen in ihre Produkte und Dienstleistungen. Jüngst hat auch Apple eine Zusammenarbeit mit OpenAI angekündigt.
Diese Vorbemerkung des Fragestellers vorangestellt, beantworte ich die Kleine Anfrage im Einvernehmen mit dem Chef der Staatskanzlei, dem Minister für Bundes- und Europaangelegenheiten, Internationales und Entbürokratisierung und Bevollmächtigten des Landes beim Bund, dem
Minister der Finanzen, dem Minister der Justiz und für den Rechtsstaat, dem Minister für Kultus,
Bildung und Chancen, dem Minister für Wissenschaft und Forschung, Kunst und Kultur, dem
Minister für Wirtschaft, Energie, Verkehr, Wohnen und ländlichen Raum, der Ministerin für
Digitalisierung und Innovation, dem Minister für Landwirtschaft und Umwelt, Weinbau, Forsten,
Jagd und Heimat, der Ministerin für Familie, Senioren, Sport, Gesundheit und Pflege sowie der
Ministerin für Arbeit, Integration, Jugend und Soziales wie folgt:
Frage 1 Wie bewertet die Landesregierung die Stellungnahmen von OpenAI auf die Fragen des HBDI?
Zuständige Aufsichtsbehörde für die Kontrolle des Datenschutzes in Unternehmen ist nach § 40
Bundesdatenschutzgesetz i. V. m. § 13 Abs. 1 Hessisches Datenschutz- und Informationsfreiheitsgesetz der HBDI. Ihm allein obliegt die Aufgabe, die Einhaltung der Datenschutzvorschriften zu kontrollieren und Maßnahmen zur Korrektur oder Unterbindung unzulässiger Datenverarbeitungen zu ergreifen sowie Sanktionen zu verhängen. Die Landesregierung verfügt daher über keine Prüfungsbefugnisse. Der HBDI ist aufgrund europarechtlicher Vorgaben eine unabhängige Landesbehörde, die weder der Aufsicht der Landesregierung untersteht, noch deren Weisungen entgegennimmt.
Frage 2 Wie plant die Landesregierung sicherzustellen, dass die Datenerhebung durch OpenAI den Anforderungen der Datenschutz-Grundverordnung (DS-GVO) entspricht, insbesondere hinsichtlich der Erhebung von besonderen Kategorien personenbezogener Daten wie Gesundheitsdaten oder Daten zur politischen, religiösen oder sexuellen Orientierung?
Frage 3 Welche Maßnahmen werden ergriffen, um sicherzustellen, dass die Betroffenenrechte, insbesondere die Rechte auf Korrektur, Löschung und Auskunft, von OpenAI rechtskonform erfüllt werden können?
Frage 4 Inwiefern entspricht nach Ansicht der Landesregierung die Art und Weise, wie Nutzungsdaten von ChatGPT-Nutzerinnen und -Nutzern zum Nachtraining verwendet werden, den Vorgaben der
DS-GVO?
Frage 5 Welche konkreten Schritte unternimmt die Landesregierung, um die Transparenz der Datenverarbeitung durch OpenAI zu erhöhen?
Frage 6 Wie wird die Zuständigkeit und Verantwortung für die Überwachung der Einhaltung der DS-GVO
durch OpenAI zwischen den europäischen Datenschutzaufsichtsbehörden und der hessischen Aufsichtsbehörde koordiniert?
Frage 7 Welche Sanktionen plant die Landesregierung, falls Verstöße gegen die DS-GVO durch OpenAI
festgestellt werden?
Frage 8 Welche Sicherheitsmaßnahmen sind erforderlich, um die Verarbeitung der sensiblen Daten durch OpenAI zu schützen?
Frage 9 Wie stellt die Landesregierung sicher, dass Mitarbeiter und Einrichtung des Landes im Rahmen
dienstlicher Tätigkeiten die Datenschutzbestimmungen bei der Nutzung von ChatGPT respektive
damit verbundener Software einhalten?
Die Fragen 2 bis 9 werden aufgrund des Sachzusammenhangs gemeinsam beantwortet. Die Mitarbeiterinnen und Mitarbeiter der Landesverwaltung und die Einrichtungen des Landes sind bei dienstlichen Tätigkeiten verpflichtet, die datenschutzrechtlichen Bestimmungen einzuhalten. Die Landesregierung wird einen Muster-Regelungsentwurf zum Umgang mit Systemen der generativen Künstlichen Intelligenz (KI) in der Landesverwaltung zur Verfügung stellen, der als Orientierungsleitfaden für die Mitarbeiterinnen und Mitarbeiter der Landesverwaltung dient.
Der Muster-Regelungsentwurf wird insbesondere auch die von der Konferenz der unabhängigen
Datenschutzaufsichtsbehörden des Bundes und der Länder (Datenschutzkonferenz) veröffentlichte
sogenannte „Orientierungshilfe für Unternehmen und Behörden“ vom 06.05.2024 berücksichtigen.
Im Geschäftsbereich des Ministeriums für Kultus, Bildung und Chancen wurde eine Handreichung
„Künstliche Intelligenz (KI) in Schule und Unterricht“ für Lehrkräfte herausgegeben, die auf den
Internetseiten des Ministeriums zugänglich ist. Darin finden Lehrkräfte Informationen zu möglichen Anwendungsszenarien und rechtlichen Rahmenbedingungen.
Wiesbaden, 1. August 2024
Prof. Dr. Roman Poseck