Eine Organisation, die die bürgerlichen Freiheiten in der digitalen Welt verteidigt, berichtet über einen neuen Plan, der in einem nationalen Labor entwickelt wird: die Schaffung eines digitalen Polizisten.
Das Konzept „liest sich wie ein Pitch für den dystopischsten Buddy-Cop-Film aller Zeiten“, erklärt der Bericht von Dave Maass von der Electronic Frontier Foundation.
Die Arbeit an einem „D-PO“, der jetzt als „visionäres Konzept“ vorgestellt wird, findet am Pacific Northwest National Laboratory statt, das von Battelle im Auftrag des US-Energieministeriums betrieben wird.
Die Forscher arbeiten an der „Prognose einer Zukunft, in der Polizei- und Grenzschutzbeamte von künstlicher Intelligenz unterstützt werden, und zwar nicht als Softwaretool, sondern als autonomer Partner, der in der Lage ist, bei Verfolgungsjagden das Lenkrad zu übernehmen und soziale Medien zu durchsuchen, um Personen zu finden, die näher untersucht werden sollen“, heißt es in dem Bericht.
„Wir müssen Computersysteme entwerfen, die nicht einfach nur Werkzeuge sind, die wir benutzen, sondern Teamkollegen, mit denen wir zusammenarbeiten“, heißt es an einer Stelle des Projekts.
„Seit Jahren warnen Bürgerrechtsgruppen vor den Gefahren, die sich aus der zunehmenden Abhängigkeit der Strafverfolgungsbehörden von automatisierten Technologien wie Gesichtserkennung und ‚Predictive Policing‘-Systemen ergeben. In den letzten Jahren haben wir auch auf die Probleme hingewiesen, die autonome Polizeiroboter mit sich bringen, wie etwa die pickelförmigen Knightscope-Sicherheitsroboter und die vierbeinigen ‚Hunde‘-Roboter, die das US-Heimatschutzministerium an der Grenze zwischen den USA und Mexiko einsetzen will“, erklärt die Stiftung.
Aber die neueste Version geht „viel weiter“.
Die Idee ist, dass die KI „vom Menschen und seiner Umgebung“ lernt und dann dieses Wissen nutzt, „um das Team zu führen, ohne dass der Mensch spezifische Anweisungen geben muss.“
In seinem Szenario erklärt das PNNL, dass die beiden „Beamten“ einen Alarm über einen laufenden Raubüberfall erhalten, woraufhin sofort Drohnen angezapft, Gesichtserkennung eingesetzt, selbstfahrende Technologien integriert und algorithmische Vorhersagen ins Spiel gebracht werden.
„Während Officer Miller zum Ort des Überfalls fährt, überwacht D-PO die Kameraaufnahmen einer autonomen Polizeidrohne, die den Tatort umkreist. Anschließend nutzt D-PO seine Deep-Learning-Bilderkennung, um eine Person zu erkennen, auf die die Beschreibung des Verdächtigen passt. D-PO meldet Officer Miller, dass es mit hoher Wahrscheinlichkeit übereinstimmt, und bittet darum, das Fahren zu übernehmen, damit der Officer das Videomaterial studieren kann. Der Beamte nimmt die Bitte an, und D-PO zeigt das Videomaterial des möglichen Verdächtigen auf dem Display des Streifenwagens an. D-PO hat die Merkmale des Videos hervorgehoben und erklärt die Merkmale, die zu seiner hohen Vertrauenswürdigkeit geführt haben“, heißt es in dem Bericht des EFF.
Dann gibt es eine Diskussion zwischen Miller und dem digitalen Beamten darüber, wie der Verdächtige festgenommen werden kann.
„Die Autoren überlassen es dem Leser, sich vorzustellen, was als nächstes passiert. Wenn man sich auf die Fantasie einlässt, könnte man sich vorstellen, dass diese Geschichte mit einer perfekten Festnahme endet, bei der niemand verletzt wird und jeder eine Medaille erhält – sogar der digitale Kollege. Doch wer sich mit der Schnittstelle zwischen Polizeiarbeit und Technologie befasst, wird feststellen, dass es viele tragische Enden gibt, von einer Verwechslung, durch die eine unschuldige Person in das Strafrechtssystem hineingezogen wird, bis hin zu einer vermeidbaren Schießerei der Polizei, die ohne Verantwortlichkeit endet, weil Officer Miller einem straflosen Algorithmus die Schuld für eine fehlerhafte Empfehlung geben kann“, heißt es in dem Bericht der EFF.
Die Organisation berichtet, dass die Technologie offenbar noch in weiter Ferne liegt“, weist aber darauf hin, dass eine städtische Polizeibehörde bereits Interesse an den Fähigkeiten bekundet hat.
Der Bericht erwähnt jedoch nicht, dass die Technologie auch als Option für die Beamten des Zoll- und Grenzschutzes gefordert wird.
„Die CBP ist berüchtigt dafür, im Namen der Grenzsicherheit in experimentelle Technologien zu investieren, von Überwachungsluftschiffen bis zu autonomen Überwachungstürmen. Im PNNL-Szenario wäre das Border Inspections Teammate System (BITS) eine selbstgesteuerte künstliche Intelligenz, die über ein Augmented-Reality-Headset (AR) mit den Kontrollbeamten kommuniziert“, heißt es in dem Bericht.
Die EFF warnte dann vor den Problemen bei der Einführung unbewiesener Technologien, die „oft auf wundersamen, aber unplausiblen Erzählungen beruhen, die von Technologieentwicklern und -vermarktern verbreitet werden, ohne den Schaden zu bedenken, den sie verursachen könnten“.
„Der Gesellschaft wäre besser gedient, wenn das PNNL-Team seine kollektive Vorstellungskraft nutzen würde, um die Gefahren neuer Überwachungstechnologien zu erforschen, damit wir die Fallstricke vermeiden können, anstatt direkt in sie hineinzupreschen“, heißt es in dem Bericht.
