Erinnern Sie sich an den Film, in dem Menschen vorsorglich von Tom Cruise verhaftet wurden, weil drei Hellseher befanden, dass sie in Kürze ganz bestimmt ein Verbrechen begehen würden? Die Vorlage für “Minority Report” lieferte einst der Autor Phil K. Dick mit einer Kurzgeschichte – im Jahr 1956. In Großbritannien ist man nun fest entschlossen, diesen irren Traum endlich Realität werden zu lassen: Eine Organisation hat Informationen zu einem entsprechenden Programm der Regierung ans Tageslicht befördert. Auf Basis persönlichster Informationen brandmarkt ein Algorithmus Menschen als potenzielle Mörder.
Ein Kommentar von Vanessa Renner
Dystopische Geschichten scheinen für die Regierungen der heutigen Zeit so etwas wie Bedienungsanleitungen zur Kontrolle der Bevölkerung zu sein – manch einer sieht hier ein Zeichen dafür, dass die Mächtigen heute jenen von damals, die die niederschmetternden Zukunftsvisionen von Autoren wie Dick beflügelten, in nichts nachstehen. Dick zeichnete mit “The Minority Report” ein düsteres Bild eines brutalen und übergriffigen Staates, der Menschen wegsperrte, die noch überhaupt nichts getan hatten. Die Frage nach dem freien Willen der Menschen stellte sich nicht mehr – hatten die “Precogs”, Mutanten mit hellseherischen Fähigkeiten, jemandem kriminelle Absichten unterstellt, wurde er aus dem Verkehr gezogen. Dabei bewiesen die namensgebenden “Minority Reports”, dass diese Vorhersagen eben nicht unfehlbar waren. Diese Berichte wurden jedoch vertuscht, um das Vertrauen in das System nicht zu unterwandern.
Homicide Prediction Project
Weit hergeholt, könnte man meinen, denn solche hellsehenden Mutanten weilen nicht unter uns. Allerdings kann man ersatzweise Algorithmen entwickeln, die aus zur Verfügung gestellten Daten ähnliche Schlüsse ziehen. Genau das macht der NGO “Statewatch” zufolge die britische Regierung: Das Justizministerium bastelt demnach im Auftrag des Büros des Premierministers im Geheimen an einem System, das Morde vorhersagen soll. Es handelt sich um ein Data Science-Projekt, für das Massen an sensibelsten persönlichen Daten von Hunderttausenden Menschen herangezogen werden.
Das “Homicide Prediction Project” nutzt staatliche sowie Polizeidaten, um Profile von Menschen zu erstellen, die womöglich zukünftig Morde begehen könnten. Laut Statewatch handelt es sich um eine Zusammenarbeit zwischen dem Justizministerium, dem Innenministerium, der Greater Manchester Police und der Metropolitan Police in London. An die Daten gelangte die NGO durch Anfragen nach dem Freedom of Information Act. Neben den Daten der Polizei und Informationen zu Menschen in prekären Situationen, wird “Gesundheitsmarkern” eine ganz besondere Rolle zugeschrieben: Das Justizministerium geht davon aus, dass Daten zur psychischen Gesundheit, Suchterkrankungen, selbstverletzendem Verhalten, Suizid, Vulnerabilitäten und Behinderungen besondere Vorhersagekraft haben.
Eine Forscherin von Statewatch sieht hier besonders arme Menschen und Minderheiten gefährdet, unter falschen Verdacht zu geraten. “Untersuchungen zeigen immer wieder, dass algorithmische Systeme zur ‘Vorhersage’ von Kriminalität grundsätzlich fehlerhaft sind. Dennoch treibt die Regierung die Entwicklung von KI-Systemen voran, die Menschen als Kriminelle profilieren, bevor sie überhaupt etwas getan haben”, prangert sie an und bezeichnet das Programm als dystopisch. Sie sieht die hohe Gefahr eines Bias – einer Verzerrung, die bestimmte Menschengruppen zu bevorzugten Zielen der KI macht.
Vom Regierungskritiker zum potenziellen Attentäter?
Was sie dabei außer Acht lässt, ist, dass es in Ländern wie Großbritannien oder auch Deutschland nicht die Minderheiten sind, die man auf dem Kieker hat, denn die sind vielfach ohnehin vom Staat abhängig und damit steuerbarer – oder sie entziehen sich dem System. Es sind aktuell vielmehr all jene, die es wagen, zu deutlich die Regierung zu kritisieren – auch und gerade, weil sie nicht von ihr drangsaliert werden wollen. Die Entwicklung derartiger Programme und Algorithmen geschieht nicht in einem Vakuum, sie muss im Kontext anderer Entwicklungen betrachtet werden.
In Deutschland beispielsweise möchte die neue Regierung die elektronische Patientenakte zukünftig verpflichtend machen, was bedeutet, dass sensibelste Daten der Bürger – auch zu deren psychischer Gesundheit – digital gespeichert und somit früher oder später für ausreichend übergriffige Machthaber und deren brave Behörden verfügbar sein werden. Koppelt man das mit dem absurden Vorgehen gegen “Hass” im Netz und Majestätsbeleidigung, wonach jedes schwarzhumorige Meme einen zum Verbrecher machen kann, ist es nur eine Frage der Zeit, bis jeder kritische X-Nutzer, der mal eine depressive Episode durchlitten hat, als potenzieller Mörder und Attentäter gehandelt werden kann. Deutsche Ärzte verschreiben seit Längerem mit Begeisterung Psychopharmaka – demnach sind die meisten Bürger ihrer Akte nach eh irgendwie “gestört”. Ob sie nur einen undiagnostizierten Vitamin-D-Mangel haben oder hatten, wird eine KI wohl kaum hinterfragen.
Wahre Gefahr wird nicht bekämpft
Solche Entwicklungen laufen, während wahre Ursachen für steigende Gewaltverbrechen nicht bekämpft werden. Die illegale Massenmigration wird weiterhin gefordert und gefördert. Kriminelle Asylbewerber sammeln vielerorts Einträge in ihren Strafakten – leider oft ohne Konsequenzen. Diese Menschen sind für die Behörden schwer greifbar, die Ahndung ihrer Verbrechen politisch auch nicht so recht gewollt, so scheint es. Lieber schiebt man in regelmäßigen Abständen alibimäßig integrierte Ausländer ab, die für niemanden eine Gefahr darstellen, denn sie wehren sich nicht (und sind damit eigentlich schon sehr “deutsch”).
Wie oft erhielten die Behörden schon Warnungen vor Menschen, die später tatsächlich islamistische Anschläge begangen haben? Hier lagen Informationen, wie sie der in Großbritannien entwickelte Algorithmus ausspucken soll, längst vor. Doch wenn nun jemand als potenziell rechtsextremer Attentäter gehandelt werden könnte? Denken wir einmal daran, wie begeistert Politiker alljährlich die Liste ausländischer Namen teilen, die Opfer des Psychopathen in Hanau wurden – unter gezielter Weglassung des Namens seiner (deutschen) Mutter. Es wurde damals offen berichtet, dass der schwer geistesgestörte Mörder nicht aus rassistischen Motiven handelte, sondern weil er dachte, dass er für den Mord an Menschen mit Migrationshintergrund wohl mehr Aufmerksamkeit erhalten würde. Tragisch: Bis heute geben Politiker diesem Wahnsinnigen recht.
In Ermangelung tatsächlicher rechtsextremer Attentate muss die deutsche Politik alljährlich auf diesen grausamen Mordzug zurückgreifen, um das Gespenst des Rechtsextremismus als größter Gefahr in Deutschland am Leben zu halten. Das hilft weder den zu betrauernden Opfern noch der Bevölkerung, doch es stützt die eigene Agenda – zumindest, wenn man die ebenso alljährlichen Richtigstellungen von kritischen Bürgern und Journalisten auf X ausblendet. Ein Schelm, wer nun meint, dass bestimmte Personalien regelrecht darauf gieren könnten, irgendeinen kritischen Bürger als nächsten bösen rechten Attentäter durchs Dorf zu treiben – auch wenn er gar nichts getan hat und nur von einem Algorithmus entsprechend gebrandmarkt wurde.
Damals wie heute: Regierung genießt kein Vertrauen
Alles sehr verschwörungstheoretisch? Hoffentlich. Die nächsten Jahre werden zeigen, in welchem Ausmaß die Autoren aus Zeiten des Kalten Kriegs unbewusst zu Propheten unserer nahen Zukunft wurden. Die Entwicklungen, die Menschen wie Dick damals spürten und in ihren Geschichten verarbeiteten, trieben sie fiktiv auf die Spitze, um wachzurütteln – und sie abstrahierten sie dabei so, dass sie nicht sofort Opfer staatlicher Repression wurden, denn schon damals brauchte man zum Aussprechen der Wahrheit ein schnelles Pferd.
Die technologische Realität hat die Fiktion von damals inzwischen in Teilen eingeholt. Leider hat die Politik nichts dafür getan, um sich das Vertrauen der Bevölkerung zu erarbeiten.
