Die Gefahren der Einführung von KI in der staatlichen Verwaltung

Rechtsstaatliche KI: Die Zulassung von KI in der politischen Regierungsführung könnte das öffentliche Vertrauen in den Staat untergraben

Die Technokratie übernimmt weltweit die Regierungen, wobei KI den Rechtsstaat ersetzt – sogar in Russland. In Amerika ist Washington, D.C. von Erz-Technokraten „überrannt“ worden, die KI planlos in staatliche Prozesse einbauen:
„Entscheidungsfindung auf der Grundlage von Technologie („Hyper-Technokratie“) schenkt den Werten und Überzeugungen der Menschen nur geringe Aufmerksamkeit. Alle Formen menschlicher Erfahrung werden lediglich zu ‚Verhaltensdaten‘, die in Produkte für Analyse, Prognose und Management umgewandelt werden.“
⁃ Patrick Wood, Herausgeber.

Im vergangenen Jahr gab es immer mehr Beispiele für die Einführung von KI in der öffentlichen Verwaltung. Die US-Regierung hat begonnen, spezialisierte Dienste wie ChatGPT Gov und xAI for Government zu nutzen; die russische Regierung erklärt die Priorisierung der Implementierung von KI in ihren Abläufen. Dieser Trend scheint bereits unumkehrbar geworden zu sein. Technologie kann jedoch die Regierungsführung selbst nicht ersetzen, da diese grundlegend auf Werten und Umständen beruht, die für „Maschinen“ nicht offensichtlich sind. Die Folgen eines blinden Vertrauens in KI können Fehlentscheidungen und ein Verlust des öffentlichen Vertrauens in eine Verwaltung sein, die die Interessen ihrer Bürger nicht berücksichtigt.

Ein Merkmal politischer Regierungsführung ist, dass sie soziale Konflikte und Widersprüche auf der Grundlage von Werten löst: Gerechtigkeit, Gleichheit, Patriotismus, Demokratie. In Situationen knapper Ressourcen trifft ein Entscheidungsträger beispielsweise eine Wahl zwischen Gewinn und Umweltschutz, zwischen Investitionen und sozialem Wohlstand, zwischen Sicherheit und Freiheit. In historischen Reden von Politikern – ob russischen, chinesischen oder amerikanischen – sehen wir ebenfalls Appelle an wichtige Werte, die bestimmte Nationen einen.

Die Wahl der Werte führt in jedem Fall zu unterschiedlichen Entscheidungen. So sind für Strafverfolgungsbehörden sogenannte „Problemjugendliche“ Kinder, die möglicherweise zu Kriminellen werden und daher „überwacht“ werden sollten, während Sozialdienste versuchen, diese Jugendlichen durch Mentorenprogramme, neue soziale Kontakte und sinnvolle Freizeitbeschäftigungen zu sozialisieren.

Die Entwicklung städtischer Räume ist ein weiteres Beispiel. Ein Industriegebiet nahe dem Stadtzentrum, das zur Sanierung ansteht, könnte einfach in neue Wohnbebauung umgewandelt werden – oder zu einer Erholungsfläche auf der Stadtkarte werden. Im ersten Fall erzielt der Stadthaushalt Einnahmen, im zweiten steigt der Komfort der Bewohner. Der Wähler ist somit nicht nur ein „Parameter in einem Modell“, sondern ein vollwertiger Teilnehmer am politischen Prozess, mit eigenen Werten und Zielen, die sich von denen des Staatsapparates unterscheiden können.

Wie Daten des WZIOM (VCIOM) zeigen, vertrauen in Russland 52 % der Bürger generell der KI, während 38 % dies nicht tun. Doch das gilt nur allgemein; spricht man konkret über den Einsatz von KI in der öffentlichen Verwaltung, kehren sich die Zahlen um: 53 % sehen dies negativ, und nur 37 % positiv. Zu den genannten Bedenken zählen unter anderem folgende Risiken: Fehlentscheidungen (58 %) und fehlende Verantwortlichkeit für getroffene Entscheidungen (57 %). Insgesamt sind die Menschen bereit, KI als „Assistenten“ zu akzeptieren, nicht jedoch als endgültigen Entscheidungsträger.

KI & staatliche Verwaltung: Die Probleme

In Diskussionen stechen vier Hauptprobleme von KI-Technologien hervor:

• Transparenz der Nutzung.
  Der politische Entscheidungsprozess ist für den „durchschnittlichen Wähler“ nicht transparent – sowohl wegen seiner Komplexität als auch wegen mangelnder Offenheit. Dieses Problem verschärft sich, wenn KI Entscheidungen trifft, da ihre Motive nahezu unmöglich zu erklären sind. Selbst Entwickler neuronaler Netze wissen nicht immer, warum und auf welcher Grundlage ein Algorithmus zu einem bestimmten Ergebnis gelangt ist. Deshalb wird KI oft als „Black Box“ bezeichnet: Ein Beobachter sieht nur den Input und das Ergebnis.
• Verstärkung von Verzerrungen.
  KI wird mit von Menschen erzeugten Inhalten trainiert und „erbt“ zwangsläufig in der Gesellschaft vorhandene Stereotype. Dies zeigt sich besonders deutlich beim Vergleich von Modellen aus unterschiedlichen Ländern und kulturellen Kontexten. Die in jeder Kultur verankerten Vorurteile und unausgesprochenen Annahmen können bestehende Ungleichheiten und Diskriminierung durch KI verstärken. Man könnte eine „Neutrainierung“ der Algorithmen vorschlagen, doch wenn Politik wertebasiert ist, ist dieses Problem innerhalb algorithmischer Rahmenwerke möglicherweise grundsätzlich nicht lösbar.
• Das Problem von Verantwortlichkeit und Haftung.
  Der Einsatz von KI kann dazu dienen, Verantwortung von Entscheidungsträgern auf die „Maschine“ abzuwälzen. Positive Effekte der KI-Einführung erscheinen in Effizienzberichten, während Misserfolge und Fehler der Unvollkommenheit der KI-Modelle zugeschrieben werden.
• Technische Unzulänglichkeiten von KI, zum Beispiel:
• „Halluzinationen“ neuronaler Netze, also sachliche Fehler;
• das Problem der Reproduzierbarkeit – dieselbe Frage kann zu unterschiedlichen Zeiten unterschiedliche Antworten liefern;
• der begrenzte Umfang der Trainingsdaten, da Algorithmen enorme Datenmengen benötigen.

In der derzeitigen Entwicklungsphase der KI kann daher nicht von transparenten und unparteiischen Entscheidungen ausgegangen werden, da das Verhalten des Algorithmus nicht offensichtlich ist. KI trägt zwar „Intelligenz“ im Namen, doch ihre Natur unterscheidet sich grundlegend von menschlicher Intelligenz. Deshalb sollte sie nur innerhalb klar definierter und gut getesteter „Grenzen“ eingesetzt werden.

Grenzen des Vertrauens

Technologiebasierte Entscheidungsfindung („Hyper-Technokratie“) schenkt den Werten und Überzeugungen der Menschen nur geringe Beachtung. Alle Formen menschlicher Erfahrung werden zu bloßen „Verhaltensdaten“, die in Produkte für Analyse, Prognose und Management umgewandelt werden.

Die Entscheidung, KI in der öffentlichen Verwaltung einzusetzen, ist selbst eine politische Entscheidung, auch wenn sie durch technokratische Effizienzargumente gerechtfertigt wird. Jede Form von Herrschaft, einschließlich Bürokratie, ist stets politisiert – ein Punkt, den bereits vor über hundert Jahren Klassiker der Sozialwissenschaften wie Max Weber herausstellten.

Dennoch wird KI wahrscheinlich unabhängig von der Zustimmung der Wähler in staatlichen Strukturen eingeführt werden. Die Komplexität der Technologie und die geringe Zahl beteiligter Akteure – nämlich der Staat und die IT-Giganten, die Patente und Technologien besitzen – tragen dazu bei, dass die Umsetzung ausschließlich „von oben nach unten“ erfolgt, wenn auch nicht ohne Schwierigkeiten.

In den USA wurde der Einsatz von KI zur Erkennung potenzieller Bedrohungen in sozialen Netzwerken bereits kritisiert. Diese Kampagne löste insbesondere bei Migranten Bedenken hinsichtlich des Datenschutzes aus.

Bereits 2012 wurde in Polen ein Algorithmus entwickelt und eingesetzt, um Arbeitslose anhand verschiedener Merkmale zu profilieren. Die Einstufung in eine von drei Kategorien bestimmte, ob eine Person staatliche Unterstützung erhielt und welches Programm angeboten wurde: Beschäftigung, Umschulung oder gar nichts. Viele Arbeitslose klagten vor Verwaltungsgerichten und machten geltend, die Kategorisierung sei unfair und intransparent. Das Ergebnis: Der Mechanismus wurde für verfassungswidrig erklärt.

In den USA und in Spanien gibt es die Praxis, KI in Gerichten zur Entscheidung über vorzeitige Haftentlassung einzusetzen, indem die Rückfallwahrscheinlichkeit bewertet wird. Studien zeigten, dass der Einsatz von KI die bereits vor Einführung der Technologie bestehenden Verzerrungen und Diskriminierungen sogar verstärkte.

Der unkritische Einsatz von KI verbesserte somit nicht nur nicht die Effizienz des Staates, sondern verringerte auch das Vertrauen der Öffentlichkeit in KI und folglich in alle staatlichen Maßnahmen zur KI-Einführung. Öffentliches Vertrauen ist daher eine Voraussetzung für die Integration von KI in die öffentliche Verwaltung. Ohne dieses Vertrauen könnten Bürger mit verstärktem passivem Widerstand, aktivem Protest und einer wachsenden Popularität populistischer Politiker reagieren, die versprechen, sie vor KI zu „retten“.

Die russische Erfahrung

In Russland ist die Einführung von KI Teil des Digitalisierungsprogramms, das jede Behörde verfolgt. Zur Unterstützung staatlicher Stellen kündigte die Regierung an, ein Projektbüro für die Implementierung von KI einzurichten, und es werden Facharbeitsgruppen gebildet, um gesetzliche Rahmenbedingungen für KI zu entwickeln.

Bislang gibt es in Russland keine einheitliche Regulierung für KI – vielmehr existieren Gesetze und Verordnungen für verschiedene Sektoren. Das 2023 verabschiedete „Gesetz über Empfehlungsalgorithmen“ gilt als ausreichender Rechtsrahmen für den erfolgreichen Einsatz von KI. Die Fachgemeinschaft wies jedoch bereits während der Ausarbeitung des Gesetzes darauf hin, dass die Anwendungsszenarien für KI sehr vielfältig sind und dieses Dokument nicht alle abdeckt. Zudem arbeiten Beamte nach strengen Vorschriften und Anweisungen, die keinen Raum für unbestimmte Szenarien lassen. Infolgedessen werden einfache Lösungen wie Chatbots in großem Umfang eingeführt. Diese Unsicherheit verhindert zwar eine vollständige Nutzung des KI-Potenzials, trägt derzeit aber auch zur Risikominimierung bei. Um diese Barrieren zu überwinden, erließ Präsident Putin Anfang 2026 eine Anordnung zur Intensivierung der Einführung von KI in der öffentlichen Verwaltung.

Mit der Intensivierung der KI-Einführung ist jedoch die Frage des Schutzes der digitalen Rechte der Bürger vor bekannten Risiken aus dem Fokus geraten. Infolgedessen bleibt das Thema des öffentlichen Interesses an der Einführung von KI in der staatlichen Verwaltung am Rand der Expertendebatte und wird nur gelegentlich von Beteiligten aufgegriffen – und das nicht nur in Russland.