Der vergangene Woche von der EU-Kommission vorgestellte Gesetzentwurf zur Chatkontrolle vor erlaubt den Behörden Einblicke in die private Kommunikation, von denen sogar die Stasi in der DDR nur hätte träumen können. Was offiziell unter dem Vorwand daherkommt, das Aufspüren von „kinderpornographischem Material” zu erleichtern, ist in Wahrheit ein Einfalltor zu digitalen Totalkontrolle.
Den gesetzgebenden EU-Plänen zufolge sollen Messenger-Dienste wie WhatsApp, Signal, Threema oder Apples iMessage fortan mittels künstlicher Intelligenz dazu gezwungen werden, Fotos und Videos von Kindesmissbrauch in den Nachrichten ihrer Nutzer ausfindig zu machen und an die Strafverfolgungsbehörden zu melden. Dazu soll eine neue EU-Zentralstelle bei der EU-Polizeibehörde in Den Haag angesiedelt werden.
Ausweitung auf alle Inhalte möglich
Technisch – und das ist die wesentliche Crux hierbei – ist dafür jedoch ein prinzipieller Zugriff auf sämtliche Chats der genannten Dienste notwendig. Und der lässt sich, jedenfalls theoretisch, auch auf alle anderen Inhalte darin ausweiten. Zwar behauptet die EU-Kommission, die Anordnungen zum Aufdecken von Missbrauchsmaterial seien zum einen „zeitlich begrenzt“ und zielten zum anderen lediglich „auf eine bestimmte Art von Inhalten in einem bestimmten Dienst“ ab. Die Pläne erregten jedoch von Anfang heftige Kritik von Datenschützern, die vor den erheblichen Gefahren der Zweckentfremdung eines solchen Systems warnten, wenn es erst einmal installiert ist.
Denn neben seinem (angeblich) einzigen Zweck des Schutzes von Kindern vor Missbrauch, wird auch die Möglichkeit zu einer beispiellosen Überwachung eröffnet: Die Anbieter von Hosting- oder interpersonellen Kommunikationsdiensten müssten zunächst eine eigene Bewertung der Risiken vornehmen, die ihre Produkte für die Verbreitung von Abbildungen sexuellen Kindesmissbrauchs oder für Grooming haben, und dann die bereits ergriffen Schutzmaßnahmen bei der EU vorlegen. Sind diese nach Ansicht der Behörden ungenügend, können die Anbieter verpflichtet werden, Missbrauchsmaterial zu löschen oder den Zugang dazu in allen Mitgliedstaaten zu blockieren.
EU als „Weltmarktführer der Massenüberwachung“
Zugangsprovider können gezwungen werden, URLs zu blockieren, die auf entsprechende Bilder oder Videos hinweisen, die selbst nicht entfernt werden können. Bei Nichtbefolgung drohen Geldstrafen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Bereits im März hatten 39 Bürgerrechtsorganisationen der EU die Sorge vorgebracht, das geplante Gesetz mache die EU „zum Weltmarktführer bei der Massenüberwachung ganzer Bevölkerungen.“ Ein interner Bericht des EU-Ausschusses für Regulierungskontrolle bezweifelte, ob die Chatkontrolle mit geltendem EU-Recht gegen Massenüberwachung vereinbar sei.
Angriff auf jede vertrauliche Kommunikation
Auch der Chaos Computer Club (CCC) hatte im Vorfeld heftige Kritik an der Vorlage geäußert: Die Chatkontrolle wäre „ein Angriff auf jegliche vertrauliche Kommunikation”, da „alle Kommunikationsinhalte direkt auf unseren Geräten zu untersuchen und im Verdachtsfall auszuleiten“ wären. Zudem sei dies eine „fehlgeleitete Überwachungsmaßnahme“, da die Täter bereits andere Kanäle nutzen würden, um ihr Material zu verbreiten.
Das Gesetz würde sein Ziel also ohnehin verfehlen. „Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen. Umso erschreckender ist, mit welcher Arglosigkeit es nun eingeführt werden soll”, so der CCC.
Arroganz der Kommissionsfunktionäre
EU-Innenkommissarin Ylva Johansson wischte solche Befürchtungen lapidar beiseite – und wiederholte einfach erneut die offizielle EU-Position: In dem Vorschlag gehe es nicht darum, die Kommunikation zu lesen, sondern lediglich um das Aufspüren ganz spezieller illegaler Inhalte. Dies könne so funktionieren, wie mit einem Magneten nach einer Nadel im Heuhaufen zu suchen: „Der wird nur die Nadel sehen, nicht das Heu.”
Fachleute sehen dies allerdings völlig anders. Der US-Kryptographieprofessor Matthew Green bezeichnete den Entwurf als „die ausgeklügelste Massenüberwachungsmaschinerie, die außerhalb Chinas oder der UdSSR“ jemals aufgeboten worden sei.
Here is the document. It is long but worth reading, because it describes the most sophisticated mass surveillance machinery ever deployed outside of China and the USSR. Not an exaggeration. https://t.co/hC8DKbUsks
— Matthew Green (@matthew_d_green) May 10, 2022
Und Markus Reuter vom Portal „Netzpolitik” sagte gegenüber dem MDR, die EU-Vorlage sei „ja noch etwas verschleiert und spart die Frage aus, welche Technik zum Einsatz kommen soll.” Es gebe diesbezüglich wohl zwei Varianten: „die Verschlüsselung brechen oder direkt auf den Endgeräten der Kunden” suchen. Ohne die Privatheit der Kommunikation zu zerstören, werde allerdings kein technischer Zugriff möglich sein.
Zahllose Falschmeldungen zu erwarten
Überdies, so Reuter, werde das alles automatisiert ablaufen, was „sehr fehlerhaft“ sein werde. Es seien viele Falschmeldungen zu erwarten: „Künstliche Intelligenz ist nicht so schlau, wie vielleicht erwartet wird. Dazu müssten noch viel mehr private Daten aufgenommen und verifiziert werden: Wer schickt wem was?” Es müsse das Alter verifiziert und auch identifiziert werden, wer kommuniziere, so Reuter. „Wenn die EU so vorangeht, schafft sie Strukturen, in denen eine gesichert private Kommunikation nicht mehr möglich sein wird. Das wäre das Ende der Privatsphäre in der Messenger-Kommunikation”, lautet sein Fazit.
Massive Kritik von allen Seiten
Auch ansonsten hagelte es massive Kritik von allen Seiten: Selbst der Kinderschutzbund bezeichnete die Pläne zum Scannen privater Nachrichten als „weder verhältnismäßig noch zielführend“, da der Großteil von Kindesmissbrauchsinhalten über Plattformen und Foren geteilt werde. Der Deutsche Journalistenverband sprach von der „größten europäischen Datenüberwachung aller Zeiten“ und fürchtet massive Eingriffe in Presse- und Meinungsfreiheit. Der Journalist Friedhelm Greis bezeichnete die EU-Pläne als „totalitären Missbrauch von Technik.“ Nicht einmal in Russland oder China gebe es Chatkontrolle. Zahlreiche Politiker äußerten ebenfalls erhebliche Besorgnis über die geplanten Eingriffe in die Privatsphäre der Bürger. Angesichts dieses massierten Widerstandes besteht vielleicht noch Hoffnung, dass das Gesetz scheitert.
