Zusammenfassung:
Harte Themen gab es im Digitalausschuss vom 24.4.24: Verteidigungsminister Pistorius war mit mehreren Generälen präsent und stellte sich unseren Fragen zu KI, Drohnen, Cloud und hybride Bedrohung, natürlich ging es auch um den Ukraine-Krieg und digitale Kriegsführung – von Kamikaze-Drohnen bis Satelliten-Konnektivität. Ethisch alles nicht so einfach. Wir haben außerdem Microsoft vorgeladen und nebst BSI und BMI zu den jüngsten 3 Hackerangriffen befragt: Erkenntnisse, Folgen, Sicherheitsrisiken und Konsequenzen für die digitale Souveränit des Bundes. Kürzer gehts ums dritte Thema: Umsetzung der KI-Verordnung. Bonusthema diesmal: der Girlsday! Ich hatte 8 Mädels zu Gast, die im Podcast kurz zu Wort kommen.

Kapitelmarken:
00:00:07 Intro
00:01:18 Girls Day
00:04:16 Pistorius: Meine u seine Intro
00:12:19 Pistorius: Sicherheitslücken, Graubereiche, Hackback
00:20:47 Pistorius: Konnektivität, Ukraine-Krieg, KI
00:27:47 Pistorius: Cloud, WebEx Leak, Nachhaltigkeit, Fazit
00:33:04 Hackerangriffe auf Microsoft: Intro – 3 Fälle
00:44:36 MSFT Hacks: BSI, BMI – Betroffenheit, Konsequenzen
00:47:43 MSFT Hacks: Sicherheit souveräner Clouds, Rahmenverträge
00:54:51 KI-Verordnung – next Steps dt. Umsetzung
00:57:03 Outro

Weiterführende Links:

Rede zur internationalen Digitalpolitik vom 25.04.24

GirlsDay

Verteidigungsmininister Pistorius u Digitalisierung im Militär

Microsoft-Gate

KI-Verordnung – AI Act

Mehr von mir und Feedback von euch zu #DerADBPodcast:


Meine Frage:
Wie viele IT-Sicherheitsstellen sind derzeit in den Bundesministerien und deren nachgeordneten Behörden besetzt und wie viele unbesetzt (bitte jeweils nach Bundesministerien inklusive der jeweils nachgeordneten Behörden analog zur Antwort der Bundesregierung auf meine Schriftliche Frage 47 auf Bundestagsdrucksache 20/5426 aufschlüsseln, s. https://dserver.bundestag.de/btd/20/054/2005426.pdf)?

Weiterlesen

Informationstechnologie bildet das Rückgrat moderner Verwaltungsprozesse und steht im Mittelpunkt der Umsetzung staatlicher Aufgaben. Daher ist die Besetzung von IT-Sicherheitsstellen im Bund unerlässlich, um die staatlichen Institutionen effektiv vor Cyberangriffen zu schützen und damit die Arbeitsfähigkeit der Bundesbehörden und der Bundesregierung sicher zu stellen. Damit werden auch die Daten der Bürger:innen geschützt, die in Bundesbehörden verarbeitet werden, wie z.B. bei der Agentur für Arbeit, der Deutschen Rentenversicherung oder Bundesamt für Migration und Flucht. Aktuell sind jedoch laut einer Antwort der Bundesregierung auf eine schriftliche Frage von Anke Domscheit-Berg, Digitalpolitikerin der Linken im Bundestag, fast 750 IT-Sicherheitsstellen im Bund unbesetzt, das ist jede sechste dieser Stellen. Mängel in der IT-Sicherheit sind gefährlich, das zeigt die steigende Zahl erfolgreicher Ransomware Angriffe z.B. auf Kommunen, Bildungseinrichtungen und Unternehmen. Ein erfolgreicher Cyberangriff auf eine Bundesbehörde könnte katastrophale Folgen haben, weshalb IT-Sicherheit in allen Geschäftsbereichen der Bundesregierung eine hohe Priorität erhalten muss. Wie aus der Antwort der Bundesregierung jedoch hervorgeht, gibt es sehr große Unterschiede zwischen den Ressorts.

Dazu erklärt Anke Domscheit-Berg, digitalpolitische Sprecherin der Linken im Bundestag:

Weiterlesen

Zum Digitalausschuss vom 17.01.2024 gibt es eine Mammut-Folge mit 5 Themen im Ausschuss und den 2 Bonus-Themen: Update zur Linken im Bundestag und meine Argumente für ein AfD Verbot. Digital gehts um: 1) UN Cybercrime Convention (authoritäre Staaten wollen darin Gruseliges), 2) der KI-Aktionsplan des BMBF mit 500 Mio € Fördergeld in 2024, 3) Ergebnisse der Weltfunkkonferenz 2023: kommt ein Mobilfunknetz für Polizei und Militär? Was sind Folgen für die Kulturfrequenzen?, 4) Bund und Länder Krisenübung LÜKEX mit einem Cyber-Attacke-auf-den-Staat Szenario und 5) wie lief die Förderung des Glasfaserausbaus in 2023 (Gigabit-Richtlinie 2.0) und was kommt 2024?

Kapitelmarken:
00:00:07 Intro
00:01:25 UN-Cybercrime Convention 
00:13:51 Weltfunkkonferenz
00:26:42 Krisenübung LÜKEX mit Cyberangriff
00:36:48 KI-Aktionsplan Bundesregierung
00:48:35 Gigabitrichtlinie 2.0
00:56:00 Update Linke im Bundestag
00:57:27 AfD-Verbot
01:04:07 Outro und Hinweise

Weiterführende Links:

UN-Cybercrime Convention:

Weltfunkkonferenz:

LÜKEX – Krisenübung mit Bund und Ländern:

KI-Aktionsplan:

Gigabitrichtlinie 2.0:

Sonstige Hinweise:

Die Umsetzung des EU Digital Services Act braucht Nachbesserung: Gefahren entstehen durch massenhafte Datenweiterleitungen an das BKA und Mißbrauch von Netzsperren. Die zuständige BNetzA hat nicht mal Stellen; KMU und dezentrale, nicht kommerzielle Dienste stehen im Regen.

Meine Rede zur Umsetzung des DSA auf nationaler Ebene im Wortlaut (18.01.2023):

Sehr geehrte Präsidentin! Liebe Kolleginnen und Kollegen! Meine Einschätzung zur Umsetzung des DSA gibt es jetzt in 90 Sekunden. Gut daran ist die Klarheit bei der Störerhaftung und die Beteiligung der Zivilgesellschaft im Beirat. Aber insgesamt finde ich die Umsetzung doch misslungen.

Erstens: Noch häufiger als bisher können Netzsperren wegen Urheberrechtsverletzungen direkt beim Anbieter und ohne Richtervorbehalt eingefordert werden. Wer die vorgesehene Verhältnismäßigkeit prüfen soll, bleibt dabei völlig offen. Als Linke kritisiere ich dieses Zensurheberrecht!

Zweitens. Die Pflicht zur proaktiven Datenweiterleitung an das BKA in Artikel 18 des DSA besteht bei „Gefahr für die Sicherheit von Personen“. Das ist ein sehr schwammiger Rechtsbegriff und muss konkretisiert werden, will man massenhaftes Ausleiten personenbezogener Daten verhindern und Gerichte nicht mit Klagen überlasten.

Drittens: Die Anwendung des Digitale-Dienste-Gesetzes ist bei nichtkommerziellen Diensten völlig unklar, wenn sie dezentral organisiert sind wie Mastodon oder das Wikimedia-Projekt „Wikimedia Commons“. Die Autorencommunity dort ist getrennt vom Verein Wikimedia. Sollen jetzt ehrenamtliche Autorinnen und Autoren das Beschwerdemanagement einrichten und Transparenzberichte erstellen? Eine Umsetzungsunterstützung für nichtkommerzielle Anbieter und viele kleine und mittlere Unternehmen unter den 5 000 betroffenen Anbieter/-innen gibt es bisher nicht.

Viertens hat die künftig zuständige Bundesnetzagentur als Digitale-Dienste-Koordinator bisher noch nicht einmal Stellen dafür, ist in vier Wochen aber bereits Ansprechpartnerfür über 5 000 Anbieter und mehrere Millionen Nutzer/-innen. Bessern Sie das nach, liebe Ampel, und das sehr schnell!

Vielen Dank.

Meine Rede zum Antrag der Union: „IP-Adressen rechtssicher speichern und Kinder vor sexuellem Missbrauch schützen“ (18.01.2024):

Die von der Union beantragte IP-Adress-Vorratsdatenspeicherung ist verfassungswidrig. Massenüberwachungsinstrumente gehören nicht in eine  Demokratie! Wofür würde die AfD sie verwenden, wen überwachen und wofür? Missbrauch verhindern, heißt Überwachungsinfrastruktur verhindern!

Meine Rede im Wortlaut:
Sehr geehrte Präsidentin! Liebe Kolleginnen und Kollegen! Zum dritten Mal debattieren wir hier den vorliegenden Antrag der Union, die seit 20 Jahren die Einführung der Vorratsdatenspeicherung fordert, zur Abwechslung in der Variante „IP-Adressen“ und unter dem Vorwand des Kinderschutzes. Ich könnte meine alten Reden noch mal halten.

Die Sachlage hat sich ja nicht geändert. Die Vorratsdatenspeicherung von IP-Adressen ist weder geeignet noch angemessen oder verhältnismäßig und damit verfassungswidrig. Sie würde das gesamte Onlineverhalten aller Menschen in Deutschland überwachen. 

Die Erfahrung zeigt: Neue Instrumente zur Massenüberwachung wecken Begehrlichkeiten und werden für immer mehr Zwecke eingesetzt. Aus aktuellem Anlass finde ich daher folgende Frage wichtig: Stellen Sie sich mal vor, eine demokratiefeindliche Partei wie die rechts außen hat Zugriff auf solche Überwachungstechnologien. Was glauben sie, wofür die AfD sie wohl verwenden würde? 

Wen würde sie wohl überwachen und aus welchen Anlässen? Und was würde sie mit den Ergebnissen tun? Ein Missbrauch von Infrastrukturen, die sich für anlasslose Massenüberwachung der gesamten Bevölkerung eignen, kann man nur verhindern, indem man sie gar nicht erst aufbaut.

Werkzeuge zur anlasslosen Massenüberwachung haben in einer Demokratie nichts verloren oder, wie die taiwanesische Ministerin für Digitales, Audrey Tang, vorgestern in Berlin sagte: In einer Demokratie nutzt man Digitalisierung, um den Staat transparenter zu machen, in einer Autokratie, um Bürgerinnen und Bürger transparenter zu machen. – Wenn wir die Demokratie wertschätzen, müssen wir also die Einführung derartiger Werkzeuge verhindern, aber auch, dass die AfD die Macht ergreift.

Vielen Dank.

Eine aktuelle Kleine Anfrage der Linken im Bundestag zur Bewertung der Digitalen Souveränität des Bundes erfragte Informationen zu Rahmenverträgen der Bundes-IT und zu Ausgaben für proprietäre Software und Open Source Software (OSS). Aus der Antwort der Bundesregierung mit DS 20/9641 ergibt sich, dass die 10 größten Vertragspartner für IT-Rahmenverträge ein gemeinsames Rahmenvertragsvolumen von über 13,6 Mrd. Euro haben. Davon entfällt allein auf Produkte und Dienstleistungen des US-Herstellers Oracle ein Gesamtvertragsvolumen von 4,8 Milliarden Euro, mit dem größten Einzel-Rahmenvertrag über 4,6 Mrd Euro bei einer Laufzeit bis 2030. Weitere knapp 1,3 Milliarden entfallen auf zwei Rahmenverträge für Lizenzen des US-Unternehmens Microsoft.

Aus der detaillierten Abfrage von Ausgaben zu Entwicklungsaufträgen von Software und zu Dienstleistungen im Zusammenhang mit Software ergab sich, dass der Bund seit Beginn dieser Legislatur nur etwa 0,5 Prozent seiner entsprechenden Ausgaben für OSS einsetzte. So vergab das Digitalministerium Entwicklungsaufträge im Volumen von 22,3 Mio Euro, wovon aber nur 121.000 Euro (0,55 Prozent) auf die Entwicklung von OSS entfielen. Für Dienstleistungen im Zusammenhang mit Software verausgabte der Bund insgesamt sogar etwa 3,5 Milliarden Euro, auch davon flossen aber nur 18,6 Mio (0,54 Prozent) an Open Source. Sowohl der Koalitionsvertrag der Ampel-Regierung als auch ihre Digitalstrategie versprachen jedoch, auf Open Source zu setzen. Dazu erklärt Anke Domscheit-Berg:

“Ich kann mich an keine Regierung erinnern, bei der digitalpolitische Ankündigungen und ihre Umsetzung derart eklatant auseinander klafften! Die Förderung von Open Source und die Betonung der Digitalen Souveränität als Richtschnur für IT-Entscheidungen sind offensichtlich reine Lippenbekenntnisse, denn in der Praxis setzt auch die sogenannte Fortschrittskoalition auf die übliche Praxis, für sehr viel Geld teure proprietäre Software insbesondere von großen US-Konzernen einzukaufen. Nicht einmal der für die Digitalstrategie zuständige Minister Wissing hält sich an das, was er darin angekündigt, denn für OSS Entwicklung gab er nur 0,5 Prozent seines Budgets für Softwareentwicklung aus.

Dass außerdem mehrjährige IT-Rahmenverträge über extrem hohe Summen v.a. mit US-Konzernen sowie zu ihren Produkten abgeschlossen wurden, ist genau das Gegenteil von Stärkung der digitalen Souveränität und erhöht auf viele Jahre die Abhängigkeit des Bundes von einzelnen US-Konzernen. Mit einer einzigen US-Firma (Oracle) sogar einen Rahmenvertrag über 4,6 Mrd Euro abzuschließen, der noch bis zum Ende der nächsten (!) Legislatur laufen wird, ist schlicht auch obszön, denn diese Summe ist doppelt so hoch, wie die Kosten der mühsam erkämpften Kindergrundsicherung bei ihrer Einführung und auch in Anbetracht des für 2024 zu erwartenden Kahlschlaghaushalts für viele soziale Belange. Außerdem wird damit die Abhängigkeit von einem einzelnen Hersteller über Jahre hinweg extrem erhöht. Wer aber abhängig ist von einzelnen Firmen und ihren Produkten, wird erpressbarer – muss also häufig immer mehr bezahlen, ist außerdem weniger flexibel und geht ein zusätzliches IT-Sicherheitsrisiko ein. Deshalb ist es völlig inakzeptabel, dass der Koalitionsvertrag zwar einerseits verspricht, die digitale Souveränität durch mehr OSS zu sichern, aber gleichzeitig der Bund mit milliardenschweren Rahmenverträgen das Gegenteil erreicht und Tatsachen schafft, die bei einer Handvoll US-Konzernen die Kassen klingeln lassen, aber jede Menge Nachteile und Risiken bedeuten, bis hin zum Risiko, dass es über eingebaute Hintertüren Datenabflüsse an US-Geheimdienste gibt.

Am Ende erkennt man doch immer am Geld, wie ernst es eine Regierung mit ihren Versprechen meint! Bisher stehen auch im Haushalt für 2024 Kürzungen ausgerechnet für Open Source Initiativen an, denn die Haushaltsmittel für das Zentrum für Digitale Souveränität sollen fast halbiert werden. Diese Kürzungen betreffen die beiden wichtigsten Vorhaben des Bundes zur Förderung von OSS: die Entwicklung eines Open Source Arbeitsplatzes, als Alternative zu Microsoft Office, und die Plattform OpenCode, auf der Software der Verwaltung veröffentlicht werden soll.

Würde es die Bundesregierung ernst meinen mit der Förderung von Open Source in der eigenen Verwaltung, gäbe es messbare Ziele und ein Monitoring für den Anteil von OSS im Bund, beides existiert bisher nicht, selbst ein Software-Lizenzmanagementsystem befindet sich erst in der Planungsphase, was bei so hohen Ausgaben für Lizenzen schlicht nicht nachvollziehbar ist. Die gesamte Praxis der Bundesregierung zur Entwicklung von Software und Vergabe von Rahmenverträgen konterkariert ihre eigenen strategischen Ziele und trägt viel zu wenig zur Entwicklung europäischer Open Source Alternativen und eines Open Source Ökosystems bei, sie schadet außerdem aktiv der digitalen Souveränität.”

Links:

Anmerkung:

Die Detailtabellen zu den einzelnen Entwicklungs- und Dienstleistungsverträgen (3 weitere Anlagen) sind eingestuft als „Nur für den Dienstgebrauch“ und können daher nicht veröffentlicht werden.

Kurz-Zusammenfassung:
Aus einer Haushaltswoche ohne Digitalausschuss wurde durch ein Verfassungsgerichtsurteil adhoc eine Sitzungswoche mit Digitalausschuss und das waren unsere Themen: 1) warum es ein Offlinezugangsgesetz (kein Schreibfehler!) braucht, 2) Neues zum Data-Act der EU, der den Zugang zu IoT Daten regelt, und seine Schwächen, 3) Stand der eIDAS Verordnung der EU (mit ID-Wallet) – wann und wie sie kommt und in welchen Details sich die Teufel verbergen, 4) diverse Anträge der Linken zu: staatl. Ausnutzung von Sicherheitslücken, Gefahren durch Privatadressen im Impressum und Netzsperren ohne Richterbeschluss. Als Bonus auch diesmal ein Update zur Zukunft der Linken im Bundestag – der Weg vom Fraktions- zum Gruppenstatus.

Kapitelmarken:
00:00:07 Intro
00:02:22 Offlinezugangsgesetz für mehr Teilhabe
00:13:20 Data-Act – Zugang zu IoT Daten
00:19:49 Data-Act – Schutz für Verbraucher:innen u Privatsphäre
00:29:00 eIDAS-Verordnung – dig. Brieftasche (EU-Id-Wallet)
00:32:45 eIDAS: Sicherheit, Open Source, Überidentifikation, ID-Diebstahl
00:37:17 eIDAS: Umsetzung in DE, Blockchain, Smart eID, ePerso, QWACS
00:45:21 Linke-Antrag: keine staatl. Ausnutzung von IT-Sicherheitslücken
00:46:58 Linke-Antrag: Keine Privatadressen im Impressum
00:48:32 Linke-Antrag: Keine Netzsperren unter Umgehung der Gerichte
00:49:54 Update: Zukunft der LINKEN im Bundestag
00:51:55 Outro u Hinweise

Weiterführende Links:

Allgemein

Offlinezugangsgesetz:

Data Act:

eIDAS:


 Aktuelle Linke-Anträge im Digitalausschuss

Sonstige Empfehlungen:

Eine “wilde Woche” im Bundestag, meine Linksfraktion beschließt ihre Auflösung und Umwandlung in eine Gruppe, das Verfassungsgericht kippt die Finanzierung des Klimatransformationsfonds (60Mrd €!) und bringt Abläufe im Digitalausschuss vom 15.11.23 durcheinander. Im Podcast geht es um alles das und um die 3 Themen, die wir debattierten: 1) KI Regulierung (mal wieder, wegen Antrag Union) und der kürzliche AI Safety Summit in London zu “Frontier-KI”, 2) Denkfabrik digitale Gesellschaft des BMAS und was sie außer KI-Themen macht sowie 3) die IT-Konsolidierung des Bundes nach 8 J. Umsetzung: zB mit eAkte, Bundescloud, Netze des Bundes, eGesetzgebung, jede Menge Geld und jede Menge Rechenzentren.

Kapitelmarken:
00:00:07 Intro
00:01:35 AI Safety Summit UK, KI-Verordnung EU
00:07:27 KI-VO: biometrische Identifizierung im öff. Raum
00:16:45 Denkfabrik Dig. Arbeitsgesell. (o. nur KI?), BMAS
00:28:08 IT-Konsolidierung Bund, ein 3,5 Mrd EUR Projekt
00:35:38 IT-Kons.: Bundescloud, eGesetzgebung, RZ, IT-Sicherheit
00:40:48 Update zur Zukunft der Linksfraktion
00:45:50 Outro u. Hinweise
 

Weiterführende Links:

Öffentlicher Teil Digitalausschuss vom 15.11.23

KI Verordnung EU/ AI Safety Summit:

Denkfabrik des BMAS:

IT-Konsolidierung des Bundes:

Hinweise:

Meine Frage:

Welche Stellen haben bisher Aufgaben innerhalb der Verbundprojekte “Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen (VIKING)” sowie „KI zur Früherkennung von Straftaten (KISTRA)“ (für beide siehe Bundestagsdrucksache 20/6862) erledigt bzw. werden sie künftig erledigen (bitte für alle beteiligten Verbundpartner ihre jeweiligen Rollen, Aufgaben und deren bereits erledigte und noch geplante Teilvorhaben ausführlich mit Beschreibung nennen), und in welcher Weise sind weltweite Erfahrungen und Forschungsergebnisse zu den Risiken von KI allgemein in polizeilichen Anwendungen und insbesondere bei Predictive Policing (Früherkennung von Straftaten) in die Gestaltung und Umsetzung dieser Verbundprojekte eingeflossen, die entsprechend von Entwürfen der europäischen KI- Verordnung als Hochrisiko-Anwendungen einzustufen sind, so dass besondere und hohe Anforderungen an den Grundrechtsschutz, die Diskriminierungsfreiheit aber auch an die Transparenz und Nachvollziehbarkeit erfüllt werden müssen?

Antwort des Parlamentarischen Staatssekretärs Mario Brandenburg:

Sowohl im Projekt „Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen“ (VIKING) als auch im Projekt „KI zur Früherkennung von Straftaten“ (KISTRA) haben alle
involvierten Partner ihre Aufgaben gemäß dem jeweiligen aktuellen Projektplan erledigt.

Das Projekt KISTRA läuft Ende dieses Jahres aus und alle Partner haben ihre geplanten Aufgaben umsetzen können. Eine Aufstellung der erledigten Aufgaben für jeden
Verbundpartner ist der Anlage 1 zu entnehmen.

Das Projekt VIKING erstreckt sich noch bis Ende 2024, hat jedoch zum letzten Berichtszeitpunkt Ende Juni 2023 erfolgreich seinen Meilenstein absolviert. Jeder Partner hat seine Aufgaben zum Meilenstein erledigt. Eine Aufstellung der erledigten sowie der noch zu erledigenden Aufgaben für jeden Verbundpartner ist der Anlage 2 zu entnehmen.

Im Rahmen beider Projekte wird die KI-Forschung in enger Zusammenarbeit mit gesellschaftswissenschaftlichen Partnern durchgeführt. Diese erarbeiten Empfehlungen für einen ethisch und juristisch konformen Einsatz der KI-Methoden. Im Projekt VIKING werden darüber hinaus die Themen der Diskriminierungsfreiheit sowie der Transparenz und Nachvollziehbarkeit als konkrete Aufgaben bearbeitet. Das Thema Predictive Policing wurde in beiden Projekten nicht adressiert.

Antwortschreiben im Original (pdf)