Pressemitteilung: Bund nutzt immer mehr KI, ignoriert dabei Nachhaltigkeit und versäumt Aufbau von Strukturen

Zum Dritten Mal nach 2022 und 2023 befragte die Gruppe DIE LINKE im Bundestag die Bundesregierung nach dem Einsatz von Künstlicher Intelligenz im Bund und zur Förderung von KI. Aus der Antwort der Ampel zur diesjährigen Kleinen Anfrage ergibt sich ein starker Zuwachs der KI-Anwendungen sowie immense verfügbare finanzielle Mittel in Höhe von über 2,5 Milliarden Euro für KI-Vorhaben bei gleichzeitig fehlenden Supportstrukturen, mangelnden Kompetenzen, Standards und verbindlichen Prozessen, obwohl alles dies seit Jahren angekündigt wurde. Auch Ankündigungen der Ampel zur Nachhaltigkeit beim Einsatz von KI wurden flächendeckend nicht eingehalten.

Dazu erklärt Anke Domscheit-Berg, digitalpolitische Sprecherin der Gruppe DIE LINKE im Bundestag:

“Während in anderen Bereichen jeder Steuer-Euro dreimal umgedreht wird, fließen beim Thema KI über 2,5 Milliarden Euro. Der Einsatz von KI im Bund hat sich von über 100 auf über 212 Anwendungen verdoppelt und viele der Vorhaben eignen sich sogar, um die Arbeit in Behörden sinnvoll zu unterstützen. Aber dieser Innovationsschub hat eine Schattenseite, denn die Schere zwischen dem rasant wachsenden Einsatz von KI-Systemen und den dafür notwendigen Kompetenzen, Standards und Strukturen geht immer weiter auseinander. 

So erfordert der Umgang mit KI Sorgfalt und Strukturen, die innerhalb der Verwaltung sicherstellen, dass es Standardprozesse und – Werkzeuge gibt, die vor jedem KI-Einsatz in jeder Behörde genutzt werden. Damit kann festgestellt werden, ob Grundrechte berührt werden oder Diskriminierungspotenziale bestehen, wie hoch negative Effekte für das Klima sind, ob die zugrundeliegende Datenbasis legitim ist oder was der erwartete Nutzen ist und wie man ihn messen möchte, um später zu überprüfen, ob er auch eintrat. Aber trotz jahrelanger Planungen gibt es immer noch keine zentrale Koordinierung, keine strategische Steuerung und keinerlei verbindlichen Prozesse und Standards. Weder das angekündigte Beratungszentrum für Künstliche Intelligenz noch die Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben gibt es inzwischen, so dass es an Koordinierung und auch an Kompetenzvermittlung und Wissenstransfer fehlt, Doppelentwicklungen sich häufen, die Bewertung potenzieller Risiken ohne Plan oder gar nicht erfolgt und viele Versprechen zum Einsatz von KI, wie die Einhaltung von Nachhaltigkeitskriterien in der Praxis keinerlei Rolle spielen.

Es ist nicht sinnvoll, für KI-gestützte Textdienste z.B. mal Microsoft Co-Pilot, mal ChatGPT zu nutzen, obwohl es dafür auch vertrauenswürdigere Angebote auf der bundeseigenen Plattform KIPITZ des ITZ-Bund gibt oder z.B. für die Identifikation von Fischen parallele KI-Anwendungen zu entwickeln, nämlich sowohl im BMDV als auch beim BMEL, die vermutlich nichts voneinander wissen.

Fehlende oder ignorierte Mindeststandards beeinträchtigen das Vertrauen in Regierungshandeln und in die Technologie Künstliche Intelligenz. Denn wenn selbst bei grundrechtssensiblen Anwendungen der Sicherheitsbehörden mit erhöhtem Missbrauchs- und Diskriminierungspotential, wie der Sichtung massenhafter Videodaten (Bundespolizei) oder bei Gesichtserkennungssystemen auf der Basis von KI (BKA), keine Standards für Risikobewertungen und Evaluationen gelten und auch die für Sicherheitsorgane geplante Algorithmenbewertungsstelle weiterhin nicht existiert, muss das jeden beunruhigen.

Erschütternd schlecht ist der Bund außerdem beim Thema Nachhaltigkeit und KI, obwohl KI-Systeme immer mehr Rechenzentren erfordern, die kritische Rohstoffe für Server und riesige Mengen Wasser sowie eine rasant wachsende Menge Energie verschlingen. Sämtliche Ankündigungen z.B. von “Nachhaltigkeit by Design” (Digitalstrategie) haben nichts mit der Realität zu tun. Bei Dreiviertel der 212 KI-Anwendungen im Bund spielten Nachhaltigkeitskriterien keinerlei Rolle, umfassend betrachtet wurden sie nur in fünf Fällen. Wie will eine Regierung glaubwürdig ihre Forderung nach nachhaltigerem Einsatz von KI nach außen vertreten, wenn sie bei 98 Prozent der eigenen KI-Anwendungen selbst nicht hinreichend dafür sorgt? 

Neben dem allgemeinen Vertrauensverlust werden sich Unternehmen fragen, warum sie nachhaltiger werden sollen, wenn es der Staat selbst nicht macht. Zumal gerade das Klima- und Wirtschaftsministerium nur bei zwei von 44 KI-Vorhaben im BMWK Nachhaltigkeitskriterien berücksichtigt und das BMUV nur bei zwei von 11 KI-Anwendungen, obwohl es sogar für Green-IT zuständig ist. Schlechter ist nur noch das BMI, das laut eigenem KI-Leitfaden ‘stets’ Nachhaltigkeit beim KI-Einsatz berücksichtigen wollte, diesen Vorsatz aber bei 39 seiner eigenen 40 KI-Vorhaben komplett ignoriert, denn nur ein einziges Mal wurden beim BMI Nachhaltigkeitsaspekte betrachtet.

Auch das Digitalministerium versprach in seinem KI- Leitfaden: ‘Wir setzen auf nachhaltige KI-Lösungen’, aber betrachtete Nachhaltigkeitskriterien nur bei einem einzigen seiner 30 KI-Vorhaben und das war beim Deutschen Wetterdienst, der KI passenderweise zur Simulation von Klimamodellen und zur Prognose schwerer Unwetterlagen verwendet.

Völlig verantwortungslos erfolgte die Vergabe von Millionen Fördergeldern, denn bei 98 Prozent der vom Bund seit Jan. 2023 geförderten KI-Forschungs- und Pilotprojekte war ökologische Nachhaltigkeit keinerlei Förderbedingung und bei über 80 Prozent der geförderten KI-Projekte war sie nicht einmal ein Förderkriterium, sondern spielte einfach überhaupt keine Rolle!Solche Zahlen machen mich ratlos. Gerade wenn so viel Steuergeld ausgegeben wird, muss der Staat doch seiner Verantwortung gerecht werden und diese Mittel so ausgeben, dass sie das fördern, was auch langfristig für die Gesellschaft sinnvoll ist! Dazu muss bedeuteten, KI-Systeme nur dann finanziell zu fördern, wenn sie auch in Sachen Nachhaltigkeit innovativ sind, denn so kann die Marktmacht des Staates gemeinwohlorientierten Innovationen einen Wettbewerbsvorteil verschaffen, der ihre Verbreitung unterstützt und sowohl einen direkten als auch einen indirekten Beitrag zur Erreichung der Klimaziele leisten. Künstliche Intelligenz im Bund einzusetzen oder finanziell zu fördern, kann eine gute Sache sein, aber nur, wenn man dafür einen Plan und die notwendigen Strukturen hat, das Gemeinwohl priorisiert und hohe Standards erfüllt. Diesen Anspruch erfüllt die Ampel bisher nicht.”

Kontakt für Rückfragen:

Anke Domscheit-Berg, MdB, digitalpolitische Sprecherin der Gruppe Die Linke im Bundestag: anke.domscheit-berg@bundestag.de, Tel.: 030-227-73108

Anhang

• Detaillierte Analyse der Kleinen Anfrage KI-Einsatz 2024
• Übersicht zu Anwendungsbeispielen von KI im Bund
• Antwort der Bundesregierung im Original (Hauptdokument, geschwärzt)
• Anlage 1a: KI-Anwendungen im Bund, Zweck, (voll)automatisierte Entscheidung
• Anlage 1b: Datenbasis, Trainingsdaten, Schulung Entscheidende u Nutzende + Kompetenzaufbau
• Anlage 1c: Nachhaltigkeitskriterien, Urheberrecht, Arbeitsschutz/Mindestlöhne
• Anlage 1d: Risikoklassen, Technikfolgenabschätzung, Dokumentation 
• Anlage 1e: Entwicklung intern vs extern, Anbieter, Kosten, Ausschreibung
• Anlage 1f: Evaluierung, Veröffentlichung der Ergebnisse
• Anlage 2: Forschungsvorhaben, Pilotprojekte u Reallabore (inkl. Kosten)
• Anlage 3: eingesetzte Finanzmittel innerhalb der KI-Strategie
• Anlage 3a: eingesetzte Finanzmittel außerhalb der KI-Strategie
• Anlage 4: Programme und Mittel aus BMG, BMI und BMBF mit Bundesländern