Italien hat ChatGPT für etwa einen Monat verboten, bevor es den Dienst wieder aufnehmen konnte. Die Probleme mit dem Datenschutz sind enorm und noch immer ungelöst. ChatGPT liest und lernt zum Beispiel aus urheberrechtlich geschützten Büchern, Zeitschriften, Zeitungen usw. Hat jemand dem Dienst die Erlaubnis dazu gegeben? Nein. Es zerstört buchstäblich die Urheberrechtsgesetze.⁃ TN Editor
Die Datenschutzbeauftragte von Surfshark, Gabriele Kaveckyte, hat die Datenerhebungspraktiken von ChatGPT analysiert und fünf potenzielle Datenschutzprobleme im Kontext der Datenerhebung und -sicherheit auf der Grundlage der GDPR und anderer datenschutzbezogener Vorschriften dargelegt.
ChatGPT erfreut sich zunehmender Beliebtheit. Gleichzeitig werden Bedenken über die fragwürdigen Datenerhebungspraktiken und die Sicherheit des KI-Riesen geäußert. Diese Sorge führte zu einem vorübergehenden Verbot von ChatGPT¹ in Italien und zur Einrichtung von ChatGPT-Taskforces durch den Europäischen Datenschutzausschuss (EDPB) und das US Department of Homeland Security (DHS). Der Datenschutzbeauftragte von Surfshark analysierte die Datenerhebungspraktiken von ChatGPT und deckte einige potenzielle Schwachstellen auf. Viele der diskutierten Probleme wurden von der italienischen Datenschutzbehörde² bei der Begründung des vorübergehenden Verbots angeführt.
ChatGPTs potenzielle Datenschutzprobleme:
Problem Nr. 1
ChatGPT sammelte eine große Menge personenbezogener Daten, um seine Modelle zu trainieren, hatte aber möglicherweise keine Rechtsgrundlage für diese Datenerhebung. Nach der Datenschutz-Grundverordnung³ ist die Erhebung von Daten ohne angemessene Rechtsgrundlage (z. B. die Zustimmung des Nutzers) rechtswidrig. Dies war einer der Hauptgründe für das vorübergehende ChatGPT-Verbot in Italien. Als Reaktion darauf hat Open AI vor ein paar Tagen ein Formular für EU-Nutzer⁴ zur Verfügung gestellt, mit dem sie der Erhebung ihrer Daten zum Training des KI-Modells widersprechen können. Das Formular ist jedoch nur in der EU verfügbar, und wer das Formular nicht aktiv ausfüllt, muss damit rechnen, dass seine Daten auf der Plattform verbleiben.
Problem Nr. 2
Nach der Datenschutz-Grundverordnung³ müssen die für die Datenverarbeitung Verantwortlichen (in diesem Fall ChatGPT/Open AI) die Nutzer darüber informieren, wessen Daten sie sammeln und verwenden. ChatGPT hat jedoch nicht alle Personen benachrichtigt, deren Daten für das Training des KI-Modells verwendet wurden² – ein weiterer Grund, warum die Verwendung dieser Daten möglicherweise rechtswidrig ist. Da viele Menschen nicht wissen, dass ihre Daten gesammelt und von ChatGPT verwendet werden, wissen sie auch nicht, dass sie das Opt-out-Formular ausfüllen sollten⁴, was das Problem der möglicherweise rechtswidrigen Datenerfassung noch verstärkt.
Problem Nr. 3
ChatGPT verstößt gegen den Grundsatz der Korrektheit – Die Bereitstellung unzutreffender Informationen durch die Plattform kann den Ruf einer Person erheblich schädigen. So kann zum Beispiel fälschlicherweise die Schuld einer Person behauptet oder sie eines Verbrechens beschuldigt werden, mit dem sie nie in Verbindung gebracht wurde⁵.
Problem Nr. 4
ChatGPT verfügt nicht über wirksame Instrumente zur Altersüberprüfung, um zu verhindern, dass Kinder unter 13 Jahren es nutzen. Als Reaktion auf das italienische Verbot hat ChatGPT ein Tool entwickelt, um festzustellen, ob die Nutzer über 13 Jahre alt sind⁴. ChatGPT kann jedoch nicht bestätigen, dass das eingegebene Alter dem tatsächlichen Alter des Nutzers entspricht, was bedeutet, dass Kinder lügen können, dass sie erwachsen sind und die Plattform ungehindert nutzen können.
Problem Nr. 5
ChatGPT hat keine Überprüfung der elterlichen Zustimmung für Kinder zwischen 13 und 18 Jahren. Die Nutzungsbedingungen von ChatGPT sehen vor, dass Kinder zwischen 13 und 18 Jahren vor der Nutzung der Plattform die Zustimmung ihrer Eltern einholen müssen. Es gibt jedoch kein Verifizierungsverfahren, um sicherzustellen, dass diese Zustimmung erteilt wurde, was bedeutet, dass Kinder zwischen diesen Altersgruppen die Plattform auch ohne Zustimmung frei nutzen können.
Quellen:
- ¹ Luca Bertuzzi (2023) Italian data protection authority bans ChatGPT citing privacy violations;
- ² The Italian Data Protection Authority (2023) Provision of March 30, 2023 0[9870832];
- ³ General Data Protection Regulation (2023);
- ⁴ Kelvin Chan (2023) OpenAI: ChatGPT back in Italy after meeting watchdog demands;
- ⁵ Pranshu Verma and Will Oremus (2023) ChatGPT invented a sexual harassment scandal and named a real law prof as the accused;
- ⁶ Open AI (2023) Terms of Use.
