Von The Conversation
Staatliche und private Unternehmen werden fortschrittliche KI-Tools und andere Überwachungstechnologien einsetzen, um vor, während und nach den Olympischen Spielen 2024 in Paris eine flächendeckende und dauerhafte Überwachung durchzuführen.
Von Anne Toomey McKenna
Die Olympischen Spiele 2024 in Paris ziehen die Augen der Welt auf sich, wenn Tausende von Sportlern und Betreuern sowie Hunderttausende von Besuchern aus aller Welt in Frankreich zusammenkommen.
Aber nicht nur die Augen der Welt werden auf die Spiele gerichtet sein. Auch die Systeme der künstlichen Intelligenz (KI) werden zusehen.
Staatliche und private Unternehmen werden fortschrittliche KI-Tools und andere Überwachungstechnologien einsetzen, um eine umfassende und dauerhafte Überwachung vor, während und nach den Spielen durchzuführen.
Die olympische Weltbühne und die internationalen Menschenmassen stellen ein so großes Sicherheitsrisiko dar, dass Behörden und Kritiker die Olympischen Spiele in den letzten Jahren als die „größten Sicherheitsoperationen der Welt außerhalb des Krieges“ bezeichnet haben.
Die französische Regierung hat dieses legitime Sicherheitsbedürfnis gemeinsam mit dem privaten Technologiesektor zum Anlass genommen, technologisch fortschrittliche Überwachungs- und Datenerfassungsinstrumente einzusetzen.
Ihre Überwachungspläne zur Bewältigung dieser Risiken, einschließlich des umstrittenen Einsatzes einer experimentellen KI-Videoüberwachung, sind so umfangreich, dass das Land seine Gesetze ändern musste, um die geplante Überwachung zu legalisieren.
Der Plan geht über neue KI-Videoüberwachungssysteme hinaus. Nachrichtenberichten zufolge hat das Büro des Premierministers einen vorläufigen Erlass ausgehandelt, der als geheim eingestuft wird und es der Regierung erlaubt, die traditionellen, heimlichen Überwachungs- und Informationssammlungsinstrumente für die Dauer der Spiele erheblich auszuweiten.
Dazu gehören Abhörmaßnahmen, das Sammeln von Geolokalisierungs-, Kommunikations- und Computerdaten sowie das Erfassen größerer Mengen von Bild- und Tondaten.
Ich bin Juraprofessor und Rechtsanwalt und forsche, lehre und schreibe über Datenschutz, künstliche Intelligenz und Überwachung. Außerdem gebe ich Gesetzgebern und anderen Personen rechtliche und politische Ratschläge zu diesen Themen.
Erhöhte Sicherheitsrisiken können und werden eine verstärkte Überwachung erforderlich machen. In diesem Jahr sah sich Frankreich mit Bedenken hinsichtlich seiner olympischen Sicherheitskapazitäten und glaubwürdigen Bedrohungen im Umfeld öffentlicher Sportveranstaltungen konfrontiert.
Präventivmaßnahmen sollten jedoch in einem angemessenen Verhältnis zu den Risiken stehen. Weltweit behaupten Kritiker, dass Frankreich die Olympischen Spiele als Überwachungsmaßnahme nutzt und dass die Regierung diese „außergewöhnliche“ Überwachung als Rechtfertigung für die Normalisierung der staatlichen Überwachung der gesamten Gesellschaft nutzen wird.
Gleichzeitig gibt es berechtigte Bedenken hinsichtlich einer angemessenen und wirksamen Überwachung aus Sicherheitsgründen. In den USA zum Beispiel fragt sich die Nation, warum die Sicherheitsüberwachung des Secret Service nicht in der Lage war, ein Attentat auf den ehemaligen Präsidenten Donald Trump am 13. Juli zu verhindern.
KI-gestützte Massenüberwachung
Auf der Grundlage der neuen, erweiterten Überwachungsgesetze haben die französischen Behörden mit den KI-Unternehmen Videtics, Orange Business, ChapsVision und Wintics zusammengearbeitet, um eine umfassende KI-Videoüberwachung durchzuführen.
Sie haben die KI-Überwachung bei großen Konzerten, Sportereignissen und in Metro- und Bahnhöfen während der Hochsaison eingesetzt, unter anderem bei einem Konzert von Taylor Swift und den Filmfestspielen von Cannes. Französische Beamte sagten, diese KI-Überwachungsexperimente seien gut verlaufen und die Ampeln stünden auf grün“ für künftige Anwendungen.
Die eingesetzte KI-Software ist in der Regel so konzipiert, dass sie bestimmte Ereignisse wie Veränderungen in der Größe und Bewegung von Menschenmengen, verlassene Gegenstände, das Vorhandensein oder die Verwendung von Waffen, eine Leiche auf dem Boden, Rauch oder Flammen und bestimmte Verkehrsverstöße erkennt.
Ziel ist es, dass die Überwachungssysteme Ereignisse wie eine Menschenmenge, die sich auf ein Tor zubewegt, oder eine Person, die einen Rucksack an einer belebten Straßenecke zurücklässt, sofort und in Echtzeit erkennen und das Sicherheitspersonal alarmieren. Die Kennzeichnung dieser Ereignisse scheint ein logischer und sinnvoller Einsatz der Technologie zu sein.
Die wirklichen Datenschutz- und Rechtsfragen ergeben sich jedoch daraus, wie diese Systeme funktionieren und genutzt werden. Wie viele und welche Arten von Daten müssen gesammelt und analysiert werden, um diese Ereignisse zu erkennen? Wie lauten die Trainingsdaten der Systeme, die Fehlerquoten und die Anzeichen für Verzerrungen oder Ungenauigkeiten? Was wird mit den Daten gemacht, nachdem sie gesammelt wurden, und wer hat Zugang zu ihnen?
Es gibt wenig Transparenz, um diese Fragen zu beantworten. Trotz der Sicherheitsvorkehrungen, die die Verwendung biometrischer Daten, mit denen Personen identifiziert werden können, verhindern sollen, ist es möglich, dass die Trainingsdaten diese Informationen erfassen und die Systeme so angepasst werden, dass sie sie verwenden können.
Indem Frankreich diesen privaten Unternehmen Zugang zu Tausenden von Videokameras in ganz Frankreich gewährt, die Überwachungskapazitäten von Eisenbahngesellschaften und Verkehrsbetrieben nutzt und koordiniert und den Einsatz von Drohnen mit Kameras erlaubt, erlaubt und unterstützt Frankreich diese Unternehmen rechtlich, KI-Software an seinen Bürgern und Besuchern zu testen und zu trainieren.
Legalisierte Massenüberwachung
Sowohl die Notwendigkeit als auch die Praxis staatlicher Überwachung bei den Olympischen Spielen ist nichts Neues. Die Sicherheits- und Datenschutzbedenken bei den Olympischen Winterspielen 2022 in Peking waren so groß, dass das FBI „alle Athleten“ aufforderte, ihre persönlichen Handys zu Hause zu lassen und nur ein Wegwerfhandy zu benutzen, während sie sich in China aufhielten, da die Überwachung durch die Regierung so extrem sei.
Frankreich ist jedoch ein Mitgliedstaat der Europäischen Union (EU). Die Allgemeine Datenschutzverordnung der EU ist eines der strengsten Datenschutzgesetze der Welt, und das KI-Gesetz der EU ist führend in den Bemühungen, schädliche Anwendungen von KI-Technologien zu regulieren. Als Mitglied der EU muss Frankreich das EU-Recht befolgen.
In Vorbereitung auf die Olympischen Spiele erließ Frankreich 2023 das Gesetz Nr. 2023-380, ein Paket von Gesetzen, das den rechtlichen Rahmen für die Olympischen Spiele 2024 bilden soll.
Es enthält den umstrittenen Artikel 7, eine Bestimmung, die es den französischen Strafverfolgungsbehörden und ihren technischen Auftragnehmern erlaubt, vor, während und nach den Olympischen Spielen 2024 mit intelligenter Videoüberwachung zu experimentieren, sowie Artikel 10, der insbesondere den Einsatz von KI-Software zur Überprüfung von Video- und Kameraaufnahmen erlaubt.
Mit diesen Gesetzen ist Frankreich das erste EU-Land, das ein solch weitreichendes KI-gestütztes Überwachungssystem legalisiert.
Wissenschaftler, zivilgesellschaftliche Gruppen und Bürgerrechtler haben darauf hingewiesen, dass diese Artikel im Widerspruch zur allgemeinen Datenschutzverordnung und den Bemühungen der EU zur Regulierung der KI stehen. Sie argumentieren, dass Artikel 7 insbesondere gegen die Bestimmungen der allgemeinen Datenschutzverordnung zum Schutz biometrischer Daten verstößt.
Französische Beamte und Vertreter von Technologieunternehmen haben erklärt, dass die KI-Software ihr Ziel der Identifizierung und Kennzeichnung dieser spezifischen Arten von Ereignissen erreichen kann, ohne Personen zu identifizieren oder gegen die Beschränkungen der Allgemeinen Datenschutzverordnung bezüglich der Verarbeitung biometrischer Daten zu verstoßen.
Europäische Bürgerrechtsorganisationen haben jedoch darauf hingewiesen, dass, wenn der Zweck und die Funktion der Algorithmen und KI-gesteuerten Kameras darin bestehen, bestimmte verdächtige Ereignisse im öffentlichen Raum zu erkennen, diese Systeme zwangsläufig „physiologische Merkmale und Verhaltensweisen“ von Menschen in diesen Räumen erfassen und analysieren werden.
Dazu gehören Körperhaltung, Gangart, Bewegungen, Gesten und Aussehen. Die Kritiker argumentieren, dass es sich hierbei um biometrische Daten handelt, die erfasst und verarbeitet werden, und dass das französische Gesetz daher gegen die Allgemeine Datenschutzverordnung verstößt.
KI-gestützte Sicherheit – zu einem gewissen Preis
Für die französische Regierung und die KI-Unternehmen war die KI-Überwachung bisher ein Erfolg zum beiderseitigen Nutzen. Die algorithmischen Überwacher werden immer häufiger eingesetzt und liefern den Regierungen und ihren Tech-Kollegen viel mehr Daten, als Menschen allein liefern könnten.
Aber diese KI-gestützten Überwachungssysteme sind schlecht reguliert und unterliegen kaum unabhängigen Tests. Sobald die Daten gesammelt sind, ist das Potenzial für weitere Datenanalysen und Eingriffe in die Privatsphäre enorm.
