Allein die Tatsache, dass die KI-Kommission vom ehemaligen Google-CEO Eric Schmidt geleitet wird, sollte all jene beunruhigen, denen Datenschutz, Verantwortlichkeit, Transparenz und individuelle Freiheit am Herzen liegen.
Ende Januar veröffentlichte die National Security Commission on Artificial Intelligence (NSCAI), oder die KI-Kommission, einen Entwurf ihres bevorstehenden Berichts an den Kongress, in dem sie Forderungen nach einem Verbot von KI-gesteuerten autonomen Waffen, die von Kritikern als „Killerroboter“ bezeichnet werden, zurückweist. Die KI-Kommission ging zwar kurz auf Bedenken hinsichtlich des Datenschutzes und der bürgerlichen Freiheiten ein, forderte aber letztlich den Kongress auf, die KI-Forschung und -Finanzierung bis 2026 auf 32 Milliarden Dollar pro Jahr zu verdoppeln. Der Bericht versäumte es auch, klare Interessenkonflikte zwischen dem Vorsitzenden der Kommission und dem ehemaligen Google-CEO Eric Schmidt festzustellen.
Zu den Gegnern der fortschreitenden KI-gestützten Überwachung und des Polizeistaats gehören auch Datenschützer, die sich Sorgen über eine Zukunft machen, in der die Strafverfolgungsbehörden Brillen mit Gesichtserkennungssoftware tragen, die von geheimen KI-Algorithmen angetrieben wird.
Der Berichtsentwurf geht auf die Überwachungsbedenken ein und stellt fest: „Die Herausforderungen der KI-Zukunft sind eng mit dem anhaltenden Wettstreit zwischen autoritären und demokratischen politischen Systemen und Ideologien verbunden.“ Die Kommission stellt auch fest, dass KI-gestützte Überwachung „bald in den Händen der meisten oder aller Regierungen sein wird“ und „autoritäre Regime werden weiterhin KI-gestützte Gesichtserkennung, Biometrie, prädiktive Analytik und Datenfusion als Instrumente der Überwachung, Einflussnahme und politischen Kontrolle nutzen.“
Der Bericht zeigt zu Recht mit dem Finger auf Chinas Autoritarismus und den KI-gesteuerten Überwachungsstaat. Der Entwurf versucht jedoch auch, die USA als „liberale Demokratie“ darzustellen, die solche Technologien für „legitime öffentliche Zwecke…. im Einklang mit der Rechtsstaatlichkeit“ einsetzt. Die Implikation ist, dass die Feinde der USA diese Technologie für tyrannische Zwecke nutzen könnten, aber die USA und ihre Verbündeten würden KI immer nur im Interesse der Bewahrung der Freiheit einsetzen.
„Eine verantwortungsvolle Demokratie muss sicherstellen, dass der Einsatz von KI durch die Regierung durch kluge Einschränkungen begrenzt wird, um mit den Rechten und Freiheiten, die eine freie und offene Gesellschaft definieren, übereinzustimmen“, heißt es in dem Entwurf. „Die US-Regierung sollte KI-gestützte Technologien mit angemessener Transparenz, starker Aufsicht und Verantwortlichkeit entwickeln und einsetzen, um sich vor Missbrauch zu schützen.“
Für bare Münze genommen, könnten diese Aussagen ein Gefühl der Beruhigung vermitteln. Leider sprechen wir hier über die US-Regierung und das Militär, und diese Institutionen haben keine Geschichte von Transparenz oder Rechenschaftspflicht. Noch beunruhigender ist die Erwähnung der „dringenden Notwendigkeit“, KI für Zwecke der nationalen Sicherheit einzusetzen, insbesondere gegen „ausländische und inländische Terroristen, die innerhalb unserer Grenzen operieren“. Der Entwurf ermutigt das DOD, die Ziele der Terrorismusbekämpfung nicht zu verfolgen, ohne sicherzustellen, dass „Sicherheitsanwendungen von KI mit den Grundwerten der individuellen Freiheit und des gleichen Schutzes durch das Gesetz übereinstimmen.“
Trotz des Eingeständnisses von Datenschutzbedenken war der Großteil des Berichtsentwurfs eine Befürwortung der Ausweitung der KI-Forschung durch die US-Regierung und das US-Militär. Robert Work, ehemaliger stellvertretender Verteidigungsminister und stellvertretender Vorsitzender der Kommission, sagte, die Kommission fordere das Verteidigungsministerium auf, bis 2025 eine „militärische KI-Bereitschaft“ mit Training und Ausbildung für Militärangehörige zu erreichen. Der Entwurf fordert den Verteidigungsminister auf, bis zum Ende dieses Jahres Ziele für die KI-Bereitschaft festzulegen.
Die endgültige Version des Berichts soll am 1. März dem Kongress vorgelegt werden.
Der Kampf gegen Killerroboter
Es gibt auch Befürchtungen, dass die traditionelle Polizeiarbeit mit menschlichen Beamten durch ferngesteuerte Drohnen und Roboterbeamte ersetzt werden könnte, die von künstlicher Intelligenz angetrieben werden und Entscheidungen nach einer der Öffentlichkeit unbekannten Formel treffen.
Einige Kritiker hatten auf ein vollständiges Verbot der Technologie gehofft, aber die Kommission sagte, sie glaube, dass KI weniger Fehler im Kampf machen würde, was zu weniger Todesfällen führen würde. Der stellvertretende Vorsitzende Work sagte, es gebe einen „moralischen Imperativ, diese Hypothese zumindest zu verfolgen.“ Reuters berichtet, dass eines der Kommissionsmitglieder vor dem Druck warnte, „Maschinen zu bauen, die schnell reagieren, was Konflikte eskalieren könnte.“ Das Gremium befürwortete die Idee, dass nur Menschen Entscheidungen über den Abschuss von Atomwaffen treffen sollten, sagte aber, dass ein Verbot von KI gegen die „Interessen der USA“ arbeiten würde und schwer durchzusetzen wäre.
Einer der Hauptbefürworter für ein Verbot autonomer Waffen ist die Organisation Campaign to Stop Killer Robots, eine Koalition von Nichtregierungsorganisationen (NGOs), die im Oktober 2012 gegründet wurde, um vollständig autonome Waffen zu verbieten. Sie behaupten, dies würde dazu beitragen, „eine sinnvolle menschliche Kontrolle über die Anwendung von Gewalt zu erhalten“. Die Organisation setzt sich international für einen Vertrag ein, der sogenannte „Killerroboter“ verbieten würde. Laut der Koalition unterstützen 30 Länder, 110 NGOs und 4.500 KI-Experten ihre Bemühungen um ein Verbot der Technologie.
Mary Wareham, Koordinatorin der Campaign to Stop Killer Robots, sagte gegenüber Reuters, dass der Fokus der Kommission „auf die Notwendigkeit, mit ähnlichen Investitionen von China und Russland zu konkurrieren… nur dazu dient, ein Wettrüsten zu fördern.“ Wareham liegt mit ihrer Einschätzung richtig, wenn man die Aussage des stellvertretenden Vorsitzenden Work bedenkt, dass es für das US-Militär ein „moralischer Imperativ“ sei, KI-Forschung zu betreiben, unter der Annahme, dass KI-gesteuerte Kriegsführung zu weniger Opfern führen würde. Diese Mentalität wird nahezu garantieren, dass KI-bezogene Verteidigungsforschung jährlich mit Milliarden von Steuergeldern finanziert wird.
Das Electronic Privacy Information Center hat dafür gekämpft, die KI-Kommission zu zwingen, Details über die Art und Weise, wie sie zu ihren Schlussfolgerungen kommt, offenzulegen, sowie die interne Kommunikation zwischen den Kommissionsmitgliedern zu erfragen. EPIC hat zweimal in seinem Verfahren gegen die AI-Kommission gewonnen und die Kommission gezwungen, öffentliche Sitzungen abzuhalten und Tausende von Seiten an Unterlagen offenzulegen. EPIC hat die KI-Kommission aufgefordert, „den Kongress als höchste politische Instanz der Nation zu beraten, um regierungsweite Prinzipien und Schutzmaßnahmen für den Einsatz und die Entwicklung von KI zu etablieren.“
Während EPIC es geschafft hat, unschätzbare Daten über die Arbeit der KI-Kommission zu enthüllen, warnen sie auch, dass „es bereits Anzeichen dafür gibt, dass die U.S. Intelligence Community es versäumt hat, in lebenswichtige KI-Schutzmaßnahmen zu investieren.“
Eric Schmidt von Google und die Verteidigung der Rebellion
Die KI-Kommission wurde 2018 vom Kongress mit dem Ziel eingerichtet, „Fortschritte in der künstlichen Intelligenz, verwandte Entwicklungen im Bereich des maschinellen Lernens und damit verbundene Technologien zu überprüfen“ und dem Kongress und dem Präsidenten politische Empfehlungen zu geben. Die Kommission hat Transparenz und Rechenschaftspflicht versprochen, hat aber tatsächlich die meisten ihrer Sitzungen und Entscheidungen im Geheimen abgehalten. Die einfache Tatsache, dass die Kommission vom ehemaligen Google-CEO Eric Schmidt geleitet wird, sollte all jene beunruhigen, denen Datenschutz, Rechenschaftspflicht, Transparenz und individuelle Freiheit am Herzen liegen.
Schmidt ist dafür bekannt, dass er von 2001 bis 2011 CEO von Google war, seine Rolle bei Google geht jedoch bis in die 2020er Jahre weiter. Schmidt war von 2011 bis 2015 Executive Chairman von Google und anschließend von 2015 bis 2017 Executive Chair der Google-Muttergesellschaft Alphabet Inc. Zuletzt war Schmidt von 2017 bis 2020 als „Technical Advisor“ bei Alphabet tätig.
Während dieser Zeit hat Google mehrere Albträume in der Öffentlichkeitsarbeit erlitten, nämlich die Tatsache, dass das „Big Tech“-Unternehmen dafür berüchtigt ist, riesige Mengen an Daten von seinen Nutzern zu sammeln. Es gab die Zeit, als Google plante, eine zensierte Version seiner Suchmaschine in China zu starten, die Websites und Suchbegriffe auf eine schwarze Liste setzen würde – ein Schritt, von dem Eric Schmidt sagte, er würde China helfen, „offener“ zu sein. Es gab auch das Projekt Maven-Fiasko, bei dem enthüllt wurde, dass Google mit dem Pentagon zusammenarbeitete, um eine KI zu entwickeln, die Drohnenaufnahmen analysieren sollte. Nachdem die Nachricht von Maven bekannt wurde, kündigten Dutzende von Mitarbeitern aus Protest und Tausende unterzeichneten eine Petition, in der Google aufgefordert wurde, das Projekt zu beenden. Google gab schließlich nach und verkündete, dass sie das Projekt Maven aufgeben würden.
Kürzlich enthüllte eine Untersuchung von The American Prospect, dass Schmidt Verbindungen zu einem weitgehend unbekannten KI-Auftragnehmer hat. Der Bericht stellt fest, dass während der Obama-Regierung Google-Vertreter häufig genug im Weißen Haus gesehen wurden, dass einige „scherzhaft die Verwaltung Google.gov nennen“, mit mehr als 250 Google-Mitarbeitern, die während Obamas Präsidentschaft zwischen der Regierung und dem Unternehmen wechselten. Schmidt war einer dieser Google-Mitarbeiter.
„Von offiziellen Positionen aus hat er sich dafür eingesetzt, dass das Verteidigungsministerium und die Geheimdienste mehr Machine-Learning-Technologie einsetzen. In der Zwischenzeit hat er als Risikokapitalgeber Millionen von Dollar in mehr als ein halbes Dutzend Startups im Bereich der nationalen Sicherheit investiert, die genau diese Technologien an die Regierung verkaufen“, schreibt der Prospect.
Konkret ist Schmidt über seine Firma Innovation Endeavors einer der Hauptinvestoren der KI-Firma Rebellion Defense. Rebellion erklärt, dass seine Mission darin besteht, „die Mission der nationalen Verteidigung durch KI-gesteuerte Technologie zu stärken“. Das Unternehmen prahlt damit, dass seine Teammitglieder „Mitarbeiter in der Frühphase von Netflix, Amazon, Twitter, Google und Microsoft waren und viele von ihnen als Beamte beim U.S. Digital Service, Defense Digital Service und dem U.K. Government Digital Service (GDS) gearbeitet haben.“
Chris Lynch, Mitgründer und CEO von Rebellion, wechselte 2015 aus dem Tech-Sektor nach D.C., um den Defense Digital Service (DDS) des Pentagons zu leiten. Während seiner Zeit beim DDS arbeitete Lynch unter drei Verteidigungsministern, bevor er 2019 das Unternehmen verließ, um Rebellion Defense zu gründen. Lynchs Wechsel von Big Tech zum militärisch-industriellen Komplex und zurück in die Privatwirtschaft ist bezeichnend für die ständige Drehtür zwischen Privatwirtschaft und Regierung.
Die Leichtigkeit des Zugangs, die Schmidt und seine Google-Kollegen während der Obama-Jahre genossen, scheint in den ersten Tagen der Biden-Administration zurückzukehren. The Prospect stellt fest, dass Rebellion im November den Auftrag erhielt, ein einheitliches Netzwerk zur gemeinsamen Nutzung von Daten für die Air Force zu schaffen. Kurz nachdem Biden zum nächsten Präsidenten erklärt wurde, begann er, sein Übergangsteam bekannt zu geben. Große Tech-Unternehmen waren auf der Liste, darunter Uber, Amazon, Google und das relativ unbekannte Rebellion Defense.
Die Anwesenheit von Eric Schmidt in der KI-Kommission und als Hauptinvestor in einem KI-Auftragsunternehmen für das Militär ist ein klarer Interessenkonflikt. Schmidts Zeit bei Google und seine öffentlichen Aussagen haben deutlich gemacht, dass er keinen Wert auf Privatsphäre legt. Trotz des Berichtsentwurfs der KI-Kommission, der Lippenbekenntnisse zum Schutz der Privatsphäre abgibt, sollten die Amerikaner nicht erwarten, dass Leute wie Eric Schmidt oder Rebellion Defense sie vor dem wachsenden Schreckgespenst der KI-gesteuerten autonomen Waffen schützen.
Der Beitrag Eric Schmidt von Google & der militärisch-industrielle Komplex der künstlichen Intelligenz erschien zuerst auf uncut-news.ch.
