Beiträge

Meine Rede zum Antrag der Union: „IP-Adressen rechtssicher speichern und Kinder vor sexuellem Missbrauch schützen“ (18.01.2024):

Die von der Union beantragte IP-Adress-Vorratsdatenspeicherung ist verfassungswidrig. Massenüberwachungsinstrumente gehören nicht in eine  Demokratie! Wofür würde die AfD sie verwenden, wen überwachen und wofür? Missbrauch verhindern, heißt Überwachungsinfrastruktur verhindern!

Meine Rede im Wortlaut:
Sehr geehrte Präsidentin! Liebe Kolleginnen und Kollegen! Zum dritten Mal debattieren wir hier den vorliegenden Antrag der Union, die seit 20 Jahren die Einführung der Vorratsdatenspeicherung fordert, zur Abwechslung in der Variante „IP-Adressen“ und unter dem Vorwand des Kinderschutzes. Ich könnte meine alten Reden noch mal halten.

Die Sachlage hat sich ja nicht geändert. Die Vorratsdatenspeicherung von IP-Adressen ist weder geeignet noch angemessen oder verhältnismäßig und damit verfassungswidrig. Sie würde das gesamte Onlineverhalten aller Menschen in Deutschland überwachen. 

Die Erfahrung zeigt: Neue Instrumente zur Massenüberwachung wecken Begehrlichkeiten und werden für immer mehr Zwecke eingesetzt. Aus aktuellem Anlass finde ich daher folgende Frage wichtig: Stellen Sie sich mal vor, eine demokratiefeindliche Partei wie die rechts außen hat Zugriff auf solche Überwachungstechnologien. Was glauben sie, wofür die AfD sie wohl verwenden würde? 

Wen würde sie wohl überwachen und aus welchen Anlässen? Und was würde sie mit den Ergebnissen tun? Ein Missbrauch von Infrastrukturen, die sich für anlasslose Massenüberwachung der gesamten Bevölkerung eignen, kann man nur verhindern, indem man sie gar nicht erst aufbaut.

Werkzeuge zur anlasslosen Massenüberwachung haben in einer Demokratie nichts verloren oder, wie die taiwanesische Ministerin für Digitales, Audrey Tang, vorgestern in Berlin sagte: In einer Demokratie nutzt man Digitalisierung, um den Staat transparenter zu machen, in einer Autokratie, um Bürgerinnen und Bürger transparenter zu machen. – Wenn wir die Demokratie wertschätzen, müssen wir also die Einführung derartiger Werkzeuge verhindern, aber auch, dass die AfD die Macht ergreift.

Vielen Dank.

Meine Frage:

Welche Stellen haben bisher Aufgaben innerhalb der Verbundprojekte “Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen (VIKING)” sowie „KI zur Früherkennung von Straftaten (KISTRA)“ (für beide siehe Bundestagsdrucksache 20/6862) erledigt bzw. werden sie künftig erledigen (bitte für alle beteiligten Verbundpartner ihre jeweiligen Rollen, Aufgaben und deren bereits erledigte und noch geplante Teilvorhaben ausführlich mit Beschreibung nennen), und in welcher Weise sind weltweite Erfahrungen und Forschungsergebnisse zu den Risiken von KI allgemein in polizeilichen Anwendungen und insbesondere bei Predictive Policing (Früherkennung von Straftaten) in die Gestaltung und Umsetzung dieser Verbundprojekte eingeflossen, die entsprechend von Entwürfen der europäischen KI- Verordnung als Hochrisiko-Anwendungen einzustufen sind, so dass besondere und hohe Anforderungen an den Grundrechtsschutz, die Diskriminierungsfreiheit aber auch an die Transparenz und Nachvollziehbarkeit erfüllt werden müssen?

Antwort des Parlamentarischen Staatssekretärs Mario Brandenburg:

Sowohl im Projekt „Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen“ (VIKING) als auch im Projekt „KI zur Früherkennung von Straftaten“ (KISTRA) haben alle
involvierten Partner ihre Aufgaben gemäß dem jeweiligen aktuellen Projektplan erledigt.

Das Projekt KISTRA läuft Ende dieses Jahres aus und alle Partner haben ihre geplanten Aufgaben umsetzen können. Eine Aufstellung der erledigten Aufgaben für jeden
Verbundpartner ist der Anlage 1 zu entnehmen.

Das Projekt VIKING erstreckt sich noch bis Ende 2024, hat jedoch zum letzten Berichtszeitpunkt Ende Juni 2023 erfolgreich seinen Meilenstein absolviert. Jeder Partner hat seine Aufgaben zum Meilenstein erledigt. Eine Aufstellung der erledigten sowie der noch zu erledigenden Aufgaben für jeden Verbundpartner ist der Anlage 2 zu entnehmen.

Im Rahmen beider Projekte wird die KI-Forschung in enger Zusammenarbeit mit gesellschaftswissenschaftlichen Partnern durchgeführt. Diese erarbeiten Empfehlungen für einen ethisch und juristisch konformen Einsatz der KI-Methoden. Im Projekt VIKING werden darüber hinaus die Themen der Diskriminierungsfreiheit sowie der Transparenz und Nachvollziehbarkeit als konkrete Aufgaben bearbeitet. Das Thema Predictive Policing wurde in beiden Projekten nicht adressiert.

Antwortschreiben im Original (pdf)

Meine Fragen:

1. Welche Rolle spielt Künstliche Intelligenz (KI) beim Forschungsvorhaben Sicherheitsbahnhof (siehe Bundestagsdrucksache 20/6862; bitte KI-Projektanteile ausführlich beschreiben, so dass ein guter Eindruck davon vermittelt wird, welche Zwecke KI wie erreichen soll), und was ist der Stand des Vorhabens mit Bezug auf seine KI-Anteile (bitte den Stand im Projekt-Zeitplan und in Bezug auf er-reichte und noch geplante Meilensteine verorten)?

2. Auf Grundlage welcher Daten wurde oder wird die im Rahmen des Forschungs-vorhaben Sicherheitsbahnhof (siehe Bundestagsdrucksache 20/6862) eingesetzte KI-gestützte Software zur Erkennung kritischer Situationen trainiert, und mit welchen standardisierten oder alternativen Methoden wurde oder wird vor Beginn eines Einsatzes auf einem Bahnhof auch als Test- oder Pilotbetrieb eine nachvollziehbare Risikoklassifizierung/-bewertung vorgenommen (bei standardisierter und alternativer Methode bitte präzisieren, welche Methode; und wenn keine derartige Risikoklassifizierung vorgenommen wurde, bitte begründen, warum nicht)?

3. Wofür wurden und werden Haushaltmittel im Rahmen des Forschungsvorhabens Sicherheitsbahnhof für KI-Aspekte (siehe Bundestagsdrucksache 20/6862) verausgabt (bitte tabellarisch Höhe und Verwendungszweck für alle KI-bezogenen Ausgaben angeben), und wie wird öffentliche Transparenz über das Projekt her-gestellt, z. B. zu Zwischenergebnissen, Risikobewertung, Evaluationprozessen und -ergebnissen, Diskriminierungsfreiheit etc., da es sich um ein Vorhaben handelt, das nach meiner Einschätzung ein hohes Risiko für Grundrechtsverletzungen birgt und nach EU KI-Verordnung vermutlich als Hochrisiko-KI-Anwendung eingestuft würde?

Antwort der Parlamentarischen Staatssekretärin Rita Schwarzelühr-Sutter (BMI):

Die Deutsche Bahn und die Bundespolizei identifizieren ordnungspartnerschaftlich sicherheitsrelevante Naht- und Schnittstellen im Eisenbahnverkehr und entwickeln
partnerschaftlich bauliche, technische und übergreifende Maßnahmen, um einen sicheren und störungsfreien Bahnverkehr auch in Zukunft zu gewährleisten. Gemein-sam mit Wissenschaft und Wirtschaft konzipieren sie interdisziplinär erste innovative Lösungen unter Labor- und Realbedingungen. Das Ziel des Forschungsvorhabens Sicherheitsbahnhof ist es, Gefahrensituationen zu reduzieren beziehungsweise früh-zeitig zu erkennen, um diese rechtzeitig bewältigen zu können. Die Optimierung der Fahrgastsicherheit, insbesondere in Bahnhöfen, stehen im Vordergrund dieser Forschung. Nachfolgende Teilprojekte des Forschungsvorhabens Sicherheitsbahnhof haben einen KI-Bezug: Erprobung intelligenter Videoanalyse: Zusammen mit dem „KI-Campus der Polizei“ des Bundesministeriums des Innern
und für Heimat (BMI) erforschen die Deutsche Bahn und die Bundespolizei, auf welche Weise KI-gestützte Software bei der Analyse von Videobildern zum Einsatz kommen könnte. Für die Bewertung und Erprobung polizeilicher KI-Lösungen kommen hierbei Wissenschaft, Behörden und ausgewählte Unternehmen zusammen. Die zu entwickelnde Software soll helfen, potenzielle Gefahrensituationen zu erkennen, wie
beispielsweise das unbefugte Betreten von Gleisanlagen oder das Fallen oder Stoßen in diese. Gemeinsam wird sowohl unter Labor- als auch unter realitätsnahen Bedingungen erforscht, wie eine Software für solche speziellen Situationen trainiert und in der Folge das Sicherheitspersonal der Deutsche Bahn oder die Bundespolizei auf diese hinweisen könnte. Zur bestmöglichen Erprobung erfolgt ein stufenweises Vor-gehen, welches die Einhaltung der rechtlichen, datenschutzrechtlichen und ethischen Anforderungen sicherstellt.

Wenn ein Anwendungsfall interdisziplinär als machbar und nützlich bewertet wird, erfolgt seine Erprobung unter Laborbedingungen. Diese soll nachweisen, ob das System technisch grundsätzlich in der Lage ist, das sich aus dem Anwendungsfall ergebende Problem zu lösen. Die anschließende technische Erprobung unter realitätsnahen Bedingungen stellt das System in Bezug auf die
Komplexität realistischer Betriebseinflüsse auf die Probe. Um das Zusammenspiel zwischen Technik und Mensch zu prüfen (Wirksamkeit und Nutzen), erfolgt schließlich eine soziotechnische Erprobung. Sämtliche Stufen der Erprobung werden fortlau-fend unter den Gesichtspunkten der interdisziplinären Bewertung betrachtet, sodass eine verantwortungsbewusste Entwicklung sichergestellt ist. Deshalb sind „Quality
Gates“ zwischen diesen stufenweisen Erprobungsphasen installiert. Nur wenn das System nach jeder Phase die an sie gestellten, stufenspezifischen Anforderungen er-füllt, wird die Erprobung fortgesetzt.

Erprobung sensorgestützter Tunnelmundüberwachung: In einer Machbarkeitsstudie untersuchen die Ordnungspartner, ob mit Hilfe eines Dynamic Vision Sensor (DVS) eine sichere und zuverlässige Erfassung sich bewegen-der Objekte im Zugangsbereich von Tunneln zur teilautomatisierten Gefahrenerkennung erreicht werden kann. Ziel ist es, die Sicherheit im öffentlichen Verkehr zu verbessern und die Anzahl von Sperrzeiten zu reduzieren. Der DVS unterscheidet sich gegenüber herkömmlichen Kameras, da hier keine Videobilder aufgezeichnet werden; der hier erzeugte Datenstrom besteht lediglich aus Pixeln, die sich über die Zeit
in der Helligkeit ändern. Diese Sensoren sind wesentlich lichtempfindlicher, so dass sie auch in Bereichen mit wechselnder Beleuchtung oder in sehr dunklen Umgebungen arbeiten. Zum Erreichen der Witterungsunabhängigkeit soll ein maßgeschneiderter Erkennungsalgorithmus entwickelt werden, der mit Hilfe von Methoden der künstlichen Intelligenz eine sichere Klassifikation zwischen Personen und anderen sich
bewegenden Objekten im Tunneleingangsbereich ermöglicht. Durch die zuverlässige Erkennung und die teilautomatisierte Alarmierung kann das Sicherheitspersonal
ohne Zeitverzug gefahrenabwehrende Maßnahmen, auch zum Schutz der kritischen Infrastruktur und des störungsfreien Bahnverkehrs, einleiten. Im Teilprojekt TUNUKI hat die Hochschule Niederrhein die Feldphase zur Aufnahme der Sensordaten abge-schlossen, die Auswertung dieser Daten dauert noch an. Es wurden Daten vom Tunneleingang des BER-Eisenbahntunnels (nicht öffentlicher Bereich) über eine Dauer
von sechs Monaten aufgezeichnet. Ziel ist es, auf Grundlage dieser Datenbasis ein KI-Modell zu trainieren, welches Anwesenheit von Personen im Tunnel erkennen und
diese zuverlässig bei allen Licht- und Wetterverhältnissen von Tieren, Zügen und an-deren Objekten unterscheiden kann. Personenbezogene Daten werden nicht erhoben.

Zu 3.

Der KI-Campus sowie die derzeit in Anspruch genommenen Entwicklungsleistungen der PD-Berater der öffentlichen Hand GmbH werden durch das BMI finanziert. Die
Finanzierung des Teilprojekts TUNUKI erfolgte aus den Fördermitteln mFUND des Bundesministeriums für Digitales und Verkehr. Das Forschungsvorhaben Sicherheitsbahnhof wird anteilig über Eigenmittel der DB Station&Service AG finanziert. Die Bundespolizei hat keine eigenen Haushaltsmittel für das Forschungsprojekt Sicherheitsbahnhof bereitgestellt. Die notwendige Transparenz während des Projekts wird durch die Informationen auf der Webseite https://sicherheitsbahnhof.bahnhof.de/ gewährleistet. Zur Erprobung sensorgestützter Tunnelmundüberwachung wurden vom Projektpartner Hochschule Niederrhein ferner folgende Beiträge veröffentlicht: https://www.hs-niederrhein.de/aktuelles/news-detail/tunnelmuendungen-mithilfe-ku-enstlicher-intelligenz-sicherer-machen/, https://www.hs-niederrhein.de/ipattern/nach-richten-detailseite/ki-zur-ueberwachung-von-tunnelmuendungen/.

Antwortschreiben im Original (pdf): https://mdb.anke.domscheit-berg.de/wp-content/uploads/231103_3-SFs-zu-KI-Projekten-Antwort-BuReg_Geschwaerzt.pdf

Die Hälfte der Legislatur ist fast vorbei, ohne dass die großen digitalpolitischen Versprechen der Ampel-Regierung bisher realisiert wurden. Dazu kommentiert die digitalpolitische Sprecherin der Linksfraktion im Bundestag und Obfrau im Digitalausschuss, Anke Domscheit-Berg:

„Die Kultur sollte anders, die digitalpolitische Zivilgesellschaft mehr einbezogen werden. Außerdem versprachen Koalitionsvertrag und Digitalstrategie mehr Offenheit, mehr Gemeinwohl, mehr Nachhaltigkeit und vor allem mehr Fortschritt und gleichzeitig weniger Überwachung und eine Verbesserung der IT-Sicherheit, aber nach anfänglicher Hoffnung bin ich inzwischen nur noch desillusioniert, denn kaum etwas ist besser, manches sogar schlechter geworden.

Digitale Verwaltung

Statt Verwaltungsdigitalisierung erleben wir von Bafög bis Wohngeld weiter den Dreiklang von Drucker, Fax und Stempel. Das OZG von 575 digitalisierten Dienstleistungen für Ende 2022 wurde auf 35 Booster-Dienstleistungen reduziert, aber auch diese wurden nicht erreicht, denn es fehlt seit über fünf Jahren an den Grundlagen: an verbindlichen, einheitlichen Standards, an überall verfügbaren Basisdiensten und am verbindlichen Ziel der Ende-zu-Ende Digitalisierung. Es gibt nicht einmal ein ehrliches Monitoring, denn als Erfolge werden auch reine Schaufensterdigitalisierungen gefeiert, wie z.B. der online Bafög-Antrag, der im Amt weiterhin ausgedruckt wird und auf dessen Bescheid Studierende immer noch vier bis sechs Monate warten müssen. Grundlegende Voraussetzungen für eine erfolgreiche Verwaltungsdigitalisierung werden offenbar immer noch nicht hinreichend verstanden, das angekündigte OZG 2.0 Gesetz liegt immer noch nicht vor, wo soll man da noch Optimismus für mehr Fortschritt bis zum Ende der Legislatur hernehmen?

Digitale Infrastruktur

Das „Recht auf schnelles Internet“ wurde nur ein „Recht auf lahmes Internet“, denn dieser Rechtsanspruch auf lächerliche 10Mbit Downloadgeschwindigkeit ermöglicht mindestens den 65 Millionen Menschen in 20 Millionen Mehrpersonenhaushalten keine gleichzeitige Nutzung von Homeoffice oder digitalem Unterricht und schränkt damit ihre Teilhabe an der digitalen Gesellschaft ein, und damit auch ihre Zukunftschancen. Gerade ländliche Räume bleiben weiterhin zu oft abgehängt, insbesondere in ostdeutschen Bundesländern, wo der Anteil Haushalte mit Glasfaseranschluss erheblich geringer ist, als im Westen. Das FDP regierte „Digitalministerium“ setzt dennoch weiter auf das Primat des Marktes, obwohl der Markt bei der Sicherstellung von Teilhabe und Daseinsvorsorge offensichtlich seit Jahren versagt hat. Das Internet in Deutschland, egal ob mobil oder über Festnetz, ist nicht nur langsamer, sondern auch viel teurer als in anderen Ländern. Das ist nicht nur aus Verbrauchersicht ein Nachteil, sondern auch für die Wirtschaft selbst.

Bürgerrechte und IT Sicherheit

Mehr Sicherheit und stärker Schutz für Bürgerrechte waren uns versprochen worden. Das Gegenteil trat bisher ein. Obwohl die Risiken für unser aller IT-Infrastruktur immer größer werden, Datenleaks und Ransomware-Attacken ständig Schlagzeilen machen, stockt die versprochene Offensive für mehr IT-Sicherheit. Nicht einmal das KRITIS-Dachgesetz ist bisher verabschiedet, obwohl gerade kritische Infrastrukturen schnellstens besseren Schutz brauchen. Das BSI sollte laut Koa-Vertrag unabhängiger werden, auch hier wurde das Gegenteil erreicht: die Spitze des BSI kann jetzt bei Missfallen leichter abgesägt werden, Interessenskonflikte zu den Geheimdiensten bleiben unverändert bestehen. Die IT-Sicherheitsforschung bleibt weiter kriminalisiert und damit behindert.
 

Auch die Überwachungsgesamtrechnung ist überfällig und inzwischen immerhin beauftragt, aber ohne ihre Ergebnisse abzuwarten, werden immer weiter neue Überwachungsbefugnisse beschlossen und Evaluierungen bisheriger Überwachungsmaßnahmen finden auch nicht statt. Mit der EU-Chatkontrolle trägt die Ampel-Regierung sogar das größte Zensur- und Überwachungsvorhaben des Internets aktiv mit. Der Schutz der Privatsphäre und der Bürgerrechte spielten wohl nur auf dem Papier eine Rolle, aber nicht bei Entscheidungen der Ampel. Österreich hat die EU-Chatkontrolle abgelehnt, Deutschland unterstützt sie.

Das war kein Unfall, in Brüssel setzte sich die Ampel entgegen anderslautender Versprechen im Koalitionsvertrag auch dafür ein, dass die KI-Verordnung Schlupflöcher für biometrische Erkennung im öffentlichen Raum enthalten soll. Immer wieder spricht sich Innenministerin Nancy Faeser für Hackbacks bei Cyberangriffen aus, obwohl IT-Sicherheitsfachleute vor den unkalkulierbaren Risiken bei mangelndem Nutzen warnen und obwohl der Koalitionsvertrag Hackbacks eine Absage erteilt. Weniger Bürgerrechte und immer höhere IT-Sicherheitsrisiken, das ist die aktuelle Bilanz.

Nachhaltige Digitalisierung

Der Infrastrukturausbau für die Gigabitziele soll laut Gigabitstrategie nachhaltig erfolgen. Aber ein regionales oder nationales Roaming, das Funklöcher schneller schließt und den Ressourcenverbrauch senken würde, weil Funkmasten effizienter genutzt werden würden, gibt es mit der Ampel nicht. Volker Wissing verweigert Maßnahmen gegen Doppelverlegung von Glasfasern (sog. „Überbau“), selbst wenn ein offenes Netz verfügbar ist und toleriert damit eine Ressourcenverschwendung, die nebenbei den Ausbau in unterversorgten Gebieten verlangsamt. Für das Reparieren statt Wegwerfen stehen mickrige 2 Millionen im Haushalt 2023 zur Verfügung, aber eine Förderrichtlinie dafür gibt es nicht einmal, die Mittel drohen zu verfallen. Auch die IT des Bundes ist alles andere als nachhaltig, die Intransparenz ist hoch, die verfügbaren Daten bescheinigen dem Bund, in seinen Rechenzentren Abwärme zu verschwenden, zu selten erneuerbare Energien und zu häufig klimaschädliche Kältemittel zu nutzen. Themen wie energieeffiziente Softwareentwicklung spielen bei der Beschaffung keine Rolle. Das Energieeffizienzgesetz sollte bundesweit Rechenzentren nachhaltiger machen, aber von der Idee blieb nicht viel übrig, so lässt das Gesetz 99 Prozent der Rechenzentren komplett außen vor und für die übrigen gibt es reichlich Schlupflöcher, z.B. bei der Abwärmenutzung, und viel zu niedrig angesetzte Ziele. Zu Nachhaltiger Digitalisierung hat die Ampel insgesamt weder praktisch noch regulierend einen Beitrag dazu geleistet, dass die Klimaziele erreicht werden können.

Open Source, Transparenz, partizipativer Staat

Digitale Souveränität durch mehr offene Software, mehr Nachvollziehbarkeit durch einen transparenten Staat, mehr Einbeziehung der Zivilgesellschaft – das klang alles schön. Aber weder bei der Digital- noch bei der Gigabitstrategie wurde die Zivilgesellschaft einbezogen. Bei Verbändeanhörungen gibt es immer wieder absurd kurze Beteiligungsfristen, beim BND-Gesetz waren es kürzlich 24 Stunden. Wie sollen Ehrenamtliche da fundiert reagieren können? Das Transparenzgesetz soll nun doch erst zum Ende der Legislatur kommen – ich wette, dass es ganz ausbleibt. An wirklicher Transparenz hat die Ampel kein Interesse.

Die Demokratie ist in Gefahr, aber was zu ihrer Stärkung beitragen kann, wird gekürzt, darunter auch die Unterstützung zivilgesellschaftlicher Initiativen gegen digitale Gewalt, wie HateAid. Gravierend sind die geplanten Haushaltskürzungen für Open Source Projekte des Bundes, die bisherige Fortschritte zunichte machen können. Gleichzeitig wurde nirgendwo ein verbindlicher Vorrang für Open Source bei öffentlicher Beschaffung verankert. So konnte Oracle vor kurzem einen neuen Vertragsabschluss mit dem Bund für proprietäre Software und die Dienste drum herum über fast vier Milliarden Euro feiern, während der Haushaltsposten für Open Source von 49 Mio auf 25 Mio Euro schrumpfen soll, das wären dann lächerliche 0,6 Prozent oder 6 Promille des Rahmenvertragsvolumens mit Oracle, was zeigt, wie ernst es die Bundesregierung mit Open Source meint.

Diese Ampelregierung ist aus digitalpolitischer Sicht eine totale Katastrophe. Mindestens zwei Jahre sind bereits verloren. Viel Zeit bleibt nicht mehr, das Ruder umzusteuern.“

Zur Debatte des Antrags der Linksfraktion zur Chatkontrolle Verordnung der EU des 19.01.2023.

Alle Infos zur Chatkontrolle gibt es HIER

Hier bin ich auf Social Media zu finden:

Twitter

Youtube

Facebook

Mastodon

Instagram

Pressemitteilung vom 20. Januar 2023

Als letzten Tagesordnungspunkt debattierte der Bundestag am Abend des 19. Januar 2023 einen Antrag der Linksfraktion mit der Aufforderung, die Bundesregierung zur Ablehnung der sogenannten Chatkontrolle Verordnung der EU zu verpflichten. Der Antrag wurde von allen übrigen Fraktionen abgelehnt. Der Entwurf einer EU-Verordnung für Regeln zur Prävention und Bekämpfung der Darstellung sexueller Gewalt an Kindern ist hochumstritten, da er vor allem auf weitreichende und grundrechtsverletzende Überwachungsmaßnahmen und nur sehr wenig auf Prävention setzt. Kritik kam nicht nur per offenem Brief von über 100 zivilgesellschaftlichen Organisationen in Europa, sondern auch von Kinderschutzorganisationen und besonders umfassend und grundsätzlich über ein Gutachten des Wissenschaftlichen Dienstes des Bundestages, das den Entwurf als unvereinbar mit europäischen und deutschen Grundrecht bewertet, sowie als ungeeignet für die Erreichung des beabsichtigten Ziels, Kinder besser zu schützen.

Seit Monaten streiten sich die Ampel-Parteien in der Frage, wie sie sich zur Chatkontrolle-Verordnung verhalten. Vor allem Innenministerin Faeser machte Schlagzeilen, als sie mehrfach öffentlich die Verordnung lobte und das sogenannte Client Side Scanning – das automatische Durchsuchen von Inhalten auf privaten Geräten vor der Verschlüsselung – befürwortete. Auch in der Debatte war erkennbar, dass ein Riß durch die Ampelkoalition geht, trotz Kritik von MdB aller drei Ampelfraktionen an grundrechtswidrigen Elementen der geplanten Verordnung und der erklärten Absage einer SPD Rednerin zum Client Side Scanning. Denn weiterhin ist nur sicher, dass Deutschland die Verordnung nicht ablehnen wird, offen ist aber weiterhin, ob es zu einer Zustimmung oder ein Enthaltung kommen wird und damit Deutschland direkt oder indirekt dazu beiträgt, die größte Überwachungsinfrastruktur seit Jahrzehnten aufzubauen. Schon im Herbst 2022 hatte bereits das österreichische Parlament daher seine Regierung auf Basis der Landesverfassung zur Ablehnung der Chatkontrolle Verordnung verpflichtet.

Die digitalpolitische Sprecherin der Fraktion DIE LINKE, Anke Domscheit-Berg, erklärt:

„Es ist mir unbegreiflich, dass eine Bundesregierung ohne Beteiligung der CDU/CSU es nicht schafft, sich unmissverständlich gegen ein EU-Verordnungsvorhaben zu positionieren, das nichts weiter als ein Gruselkabinett von Überwachungsmaßnahmen ist und keineswegs geeignet, Kinder besser vor sexualisierter Gewalt zu schützen. Die Ampel-Koalitionäre argumentieren, dass sie sich einerseits nur bei einer grundsätzlichen Unterstützung in Brüssel für positive Veränderungen des Verordnungsentwurfs einsetzen könnten und es andererseits ja auch unterstützenswerte Inhalte wie ein geplantes EU-Zentrum gäbe. Dieses Zentrum hat jedoch keineswegs den Zweck, vor allem der Prävention zu dienen, sondern soll insbesondere die Umsetzung technischer Überwachungsmaßnahmen unterstützen und begleiten.

Außerdem ist es völlig abwegig, eine Verordnung zu unterstützen, die nicht nur einen klaren Bruch mit dem Koalitionsvertrag darstellt, sondern in Gänze unvereinbar ist mit der Grundrechtecharta der EU und mit Verfassungsgrundrechten. Ein von mir beauftragtes Gutachten des Wissenschaftlichen Dienstes des Bundestages kam schon Ende 2022 zu einem vernichtenden Gesamturteil, wonach die Verordnung weder geeignet noch angemessen und verhältnismäßig sei und das Ende der Vertraulichkeit elektronischer Kommunikation bedeute. Sie gefährdet außerdem die IT-Sicherheit aller Nutzer und Nutzerinnen digitaler Dienste, denn um Inhalte auf privaten Geräten vor der Verschlüsselung z.B. über einen Messengerdienst automatisiert durchsuchen zu können, müssen überall Hintertüren in Apps und/oder Geräte eingebaut werden, und diese Hintertüren können und werden Kriminelle für verbrecherische Zwecke nutzen.

Die Koalition redet sich schön, dass sie sowohl mit einer Zustimmung als auch mit einer Enthaltung in Brüssel dazu beitragen wird, dass in Europa eine beispiellose Zensur- und Überwachungsinfrastruktur entsteht, die unkontrollierbar ist, von undemokratischen Drittstaaten begeistert für die Unterdrückung Oppositioneller kopiert werden wird und einen Geist aus der Flasche lässt, der kaum wieder eingefangen werden kann. Mit der Anwendung dieser Verordnung werden künftig Ermittlungsbehörden durch tausende Fälle falscher Verdächtigungen von der Verbrechensermittlung abgehalten, Jugendliche werden massenhaft kriminalisiert, weil Algorithmen Sexting von Grooming nicht unterscheiden können, und unzählige Unschuldige werden schrecklicher Verbrechen verdächtigt, weil künstliche Intelligenz legitime Familienfotos z.B. von badenden Kindern in Chats oder Foto-Cloud-Backups mit strafbaren Bildern verwechselt.

Soziale Probleme lassen sich mit technischen Mitteln nicht lösen, stattdessen braucht es endlich einen umfassenden Katalog wirksamer, aber eben nicht grundrechtsverletzender Maßnahmen, um Kinder tatsächlich besser vor sexualisierter Gewalt zu schützen. Ich bedaure sehr, dass die Ampelmehrheit im Bundestag sich dem Antrag der Linken nicht anschließen wollte und fordere die Regierungskoalition erneut dazu auf, sich weder aktiv noch passiv am Aufbau dieser beispiellosen Überwachungsinfrastruktur zu beteiligen.”

Hintergrund: Als letzten Tagesordnungspunkt debattierte der Bundestag am Abend des 19. Januar 2023 einen Antrag der Linksfraktion mit der Aufforderung, die Bundesregierung zur Ablehnung der sogenannten Chatkontrolle-Verordnung der EU zu verpflichten. Der Antrag wurde von allen übrigen Fraktionen abgelehnt. Der Entwurf einer EU-Verordnung für Regeln zur Prävention und Bekämpfung der Darstellung sexueller Gewalt an Kindern ist hochumstritten, da er vor allem auf weitreichende und grundrechtsverletzende Überwachungsmaßnahmen und nur sehr wenig auf Prävention setzt. Kritik kam nicht nur per offenem Brief von über 100 zivilgesellschaftlichen Organisationen in Europa, sondern auch von Kinderschutzorganisationen und besonders umfassend und grundsätzlich über ein Gutachten des Wissenschaftlichen Dienstes des Bundestages, das den Entwurf als unvereinbar mit europäischen und deutschen Grundrecht bewertet, sowie als ungeeignet für die Erreichung des beabsichtigten Ziels, Kinder besser zu schützen.

Seit Monaten streiten sich die Ampel-Parteien in der Frage, wie sie sich zur Chatkontrolle-Verordnung verhalten. Vor allem Innenministerin Faeser machte Schlagzeilen, als sie mehrfach öffentlich die Verordnung lobte und das sogenannte Client Side Scanning – das automatische Durchsuchen von Inhalten auf privaten Geräten vor der Verschlüsselung – befürwortete. Auch in der Debatte war erkennbar, dass ein Riss durch die Ampelkoalition geht, trotz Kritik von MdB aller drei Ampelfraktionen an grundrechtswidrigen Elementen der geplanten Verordnung und der erklärten Absage einer SPD-Rednerin zum Client Side Scanning. Denn weiterhin ist nur sicher, dass Deutschland die Verordnung nicht ablehnen wird, offen ist aber weiterhin, ob es zu einer Zustimmung oder einer Enthaltung kommen wird und damit Deutschland direkt oder indirekt dazu beiträgt, die größte Überwachungsinfrastruktur seit Jahrzehnten aufzubauen. Schon im Herbst 2022 hatte bereits das österreichische Parlament daher seine Regierung auf Basis der Landesverfassung zur Ablehnung der Chatkontrolle-Verordnung verpflichtet.“

Die PM auf der Seite der Linksfraktion.

Mehr zur Position und Arbeit von Anke Domscheit-Berg bezüglich Chatkontrolle

Kontakt:

Anke Domscheit-Berg

mailto: anke.domscheit-berg@bundestag.de

Tel.: (030) 227 73107

Am 28. Juni habe ich beim Wissenschaftlichen Dienst des Bundestags um eine Bewertung des EU-Verordnungsentwurfs „Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern“, auch als „Chatkontrolle“ bekannt, gebeten. Der Fokus sollte dabei auf der Frage liegen, ob der eintretende Eingriff in die Grundrechte durch diesen Verordnungsentwurf verhältnismäßig ist. Die Ausarbeitung dazu ist inzwischen eingegangen und kann HIER aufgerufen werden.

Das Gutachten des Wissenschaftlichen Dienstes zum aktuellen Entwurf der EU Chatkontrolle zieht ein vernichtendes Fazit, und stützt alle meine Warnungen und die der Zivilgesellschaft vor dieser Verordnung, die offensichtlich weder dazu geeignet ist, Kinder besser vor sexualisierter Gewalt zu schützen, noch auch nur ansatzweise angemessen ist, denn das Gutachten bestätigt, dass die Chatkontrolle einen unverhältnismäßigen Eingriff in die Grundrechte bedeutet und negative Auswirkungen nicht nur allgemein für die Bevölkerung, sondern insbesondere auch für Minderjährige zu erwarten sind.

Ich hoffe sehr, dass man dieses Gutachten im Innenministerium genau zur Kenntnis nimmt, insbesondere die Ausführungen zur faktischen Abschaffung der vertraulichen Kommunikation, aber auch die deutliche Aussage, dass die Umsetzung der Chatkontrolle zwingend entweder die Schwächung verschlüsselter Übertragung oder aber das Auslesen von Messenger-Inhalten vor der Verschlüsselung auf dem Gerät der Nutzer:innen (“Client Side Scanning”) bedeutet. Vor diesem Hintergrund beunruhigt mich sehr, dass die Bundesregierung zwar immer wieder betont, dass sie die verschlüsselte Kommunikation schützen will, sich gleichzeitig aber vor einer klaren Aussage zum Client Side Scanning drückt. Ich habe bereits mehrfach vergeblich danach gefragt und habe den stärker werdenden Eindruck, dass man sich diesen Weg für eine Umsetzung der Chatkontrolle offenhält. Das Gutachten des wissenschaftlichen Dienstes des Bundestags macht allerdings sehr deutlich, dass mittels Client Side Scanning nicht nur die Vertraulichkeit der Kommunikation faktisch abgeschafft, sondern außerdem die IT-Sicherheit genutzter Geräte geschwächt wird, da dafür die Gerätehersteller Sicherheitlücken einbauen müssten, die natürlich auch von Dritten gefunden und ausgenutzt werden können.

Nach Kenntnis dieses Gutachtens muss endlich die gesamte Bundesregierung einschließlich der Innenministerin Nancy Faeser die Chatkontrolle als gefährlichen Holzweg erkennen und ihr ganzes Verhandlungsgewicht in Brüssel dafür einsetzen, dass diese Verordnung verhindert wird und sie Kinder stattdessen mit sowohl geeigneten als auch mit grundrechtsfreundlichen Maßnahmen künftig besser vor Gewalt schützt.

Frage

Versteht die Bundesregierung unter einer „durchgängigen Ende-zu-Ende-Verschlüsselung”, die laut Koalitionsvertrag zwischen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP sichergestellt werden soll, auch, dass es keinen zweiten privaten Schlüssel geben darf, sowie die betreffende Kommunikation auch an der Quelle oder beim Empfänger, etwa durch Client-Side-Scanning, nicht überwacht werden darf und wie wird sich die Bundesregierung verhalten, wenn die geplante EU Verordnung „zur wirksamen Bekämpfung des sexuellen Missbrauchs von Kindern” eine anlassunabhängige Überprüfung aller (auch verschlüsselt übertragener) Kommunikationsdaten auf entsprechende Inhalte hin vorsieht? (Drucksachennr. 20/1817, Frage 41)

Antwort des Parlamentarischen Staatssekretärs Johann Saathoff vom 11. Mai 2022

Die Befugnisse der Sicherheitsbehörden sind in den geltenden Gesetzen abgebildet. Darüber hinaus lehnt die Bundesregierung Forderungen nach Schwächung von Verschlüsselungstechnologien
durch Hintertüren, Generalschlüssel oder „zweite private Schlüssel“ ab. Da die EU Verordnung „zur wirksamen Bekämpfung des sexuellen Missbrauchs von Kindern” zum Zeitpunkt der Beantwortung noch nicht veröffentlicht wurde, nimmt die Bundesregierung zu möglichen Inhalten dieser Verordnung keine Stellung.

Originalschreiben vom BMI (geschwärzt)

Selbstgemachtes Demo-Schild mit der Aufschrift: Lieber ständig übermüdet als ständig überwacht.
Überwachung zerstört Freiheit – Fotocredit: CC-BY Karola Riegler (Bearbeitung Team ADB)

Zahlreiche Befugniserweiterungen für die Sicherheitsbehörden trugen in den vergangenen Jahren zu einer starken Ausweitung der Überwachungstätigkeit bei. Dabei zeigen mehrere Urteile (Änderungen Verfassungsschutzgesetz, BND-Gesetz und Änderung zur Bestandsdatenauskunft) aus Karlsruhe eindeutig: das Ausmaß des Reformbedarfs im Bereich der Sicherheitsbehörden ist dramatisch – die Vorhaben der Bundesregierung entsprechen keineswegs den hohen verfassungsrechtlichen Vorgaben.

In meiner Schriftlichen Frage wollte ich von der Bundesregierung wissen, was ihre Pläne sind, eine “Überwachungsgesamtrechnung”, die sowohl vom BVerfG als auch vom Bundesdatenschutzbeauftragter für den Datenschutz und die Informationsfreiheit Kelber selbst mehrfach gefordert wurden, zukünftig durchzuführen und sie dann auch zu veröffentlichen. Die Antwort aus dem Bundesinnenministerium ist ein Schlag ins Gesicht der Demokratie.

Weiterlesen

Heute, am 06.10.2020, hat der Europäische Gerichtshof erneut zur Vorratsdatenspeicherung geurteilt. Dazu erklärt Anke Domscheit-Berg: „Das Urteil des EuGH erteilt erneut staatlichen Überwachungsbegehrlichkeiten eine Abfuhr, allerdings haben vergleichbare Urteile bisher die Bundesregierung nicht davon abgehalten, immer wieder neue verfassungswidrige Überwachungsmaßnahmen zu beschließen oder zu fordern, weil sie immer wieder die Bedeutung der Grundrechte vergißt. Die Aussage des EuGH ist in seinem neuerlichen Urteil zur Vorratsdatenspeicherung jedoch sehr klar, denn es stellt zweifelsfrei fest, dass eine allgemeine Überwachung durch eine flächendeckende Datenspeicherung ohne besonderen Anlass, von allen Menschen, die bestimmte Kommunikationsformen nutzen, zu allen Zeiten schlicht weg nicht verhältnismäßig ist und daher illegal. Nach meiner Auffassung ist eine derartige, allumfassende Datenspeicherung schon strukturell nicht mit demokratischen Grundwerten vereinbar.

Weiterlesen

Medienecho

Episoden

Großer Schwerpunkt dieser Ausgabe ist die Anhörung zur EU-Chatkontrolle Verordnung am 01.03.2023, die das Potenzial hat, die größte Überwachungsinfrastruktur aller Zeiten in der EU zu veranlassen. Mit dabei der von mir vorgeschlagene Sachverständige Felix Reda. Im Digitalausschuss direkt danach ging es einerseits um eine von der EU Kommission geplante Infrastrukturabgabe für sog. Over-the-Top-Anbieter und andererseits um das geplante Dateninstitut der Bundesregierung – was da der Stand seiner Gründung ist, wie die 10 Mio € Haushaltsmittel ausgegeben werden sollen und andere offene Fragen. Hinter der Infrastrukturabgabe verbirgt sich die neu aufgewärmte (und sehr dumme) Idee, datenintensiven Inhalteanbietern (Netflix, Amazon, Google u Co) ein Zwangsgeld überzuhelfen, mit dem sie sich an den Ausbaukosten der Netzbetreiber beteiligen sollen (wer zahlt da wohl am Ende mehr?). Ihr erfahrt, warum diese Abgabe gefährlich ist für das gesamte Ökosystem des Internets und welche Position (vermutlich) die Bundesregierung vertritt.

Ich freue mich wenn ihr wieder reinhört, den Podcast weiterempfehlt und wie immer über Feedback an anke.domscheit-berg@bundestag.de oder gern auch auf Social Media mit Hashtag #DerADBPodcast

Dafür bin ich hier zu finden:

Twitter

Instagram

Mastodon

Youtube

Facebook

Kapitelmarken:

00:00:07 Intro
00:01:05 Nachreichung: OSS und Open Data beim Breitbandportal
00:01:43 Anhörung Chatkontrolle – Intro
00:08:09 Scannen von privater Kommunikation
00:13:12 Künstl. Intelligenz – Filter, Fehlerraten
00:21:43 Hash-basierte Filter-Verfahren
00:24:53 Altersverifizierung  Folgen für Anonymität, Minderjährige, Open Source
00:33:30 Netzsperren
00:36:29 EU-Zentrum
00:37:44 BfDI Kelber zum Datenschutz
00:39:43 Chatkontrolle Verordnung und ePrivacy Richtlinie
00:41:07 Rechtsgrundlage der Chatkontrolle VO
00:44:43 Empfehlungen der Sachverständigen zur Haltung der BuReg
00:49:37 Ausschusssitzung 01.03.23, TOP Infrastrukturabgabe OTT-Anbieter Intro
00:51:00 Befürworter und Gegner und ihre Argumente
00:54:13 Der ungewöhnliche Prozess
00:56:12 Einführung Staatssekretär Schnorr, BMDV
00:58:38 Marktversagen ja oder nein und Position der BNetzA
01:01:10 ganz schön fishy: was Telco Orange und Kommissar Breton verbindet
01:02:19 Viele weitere Fragen und Fazit zur Infrastrukturabgabe
01:06:03 Ausschusssitzung 01.03.23 TOP Dateninstitut – Intro
01:07:18 Einführung von BMWK, BMI und BMBF
01:09:48 Zeitplan und wie werden 10 Mio € ausgegeben?
01:11:36 Governance des Dateninstitutes
01:12:50: Use Cases und künftige Finanzierung
01:14:47 Ausblick und Fazit
01:15:18  Outro mit Terminhinweisen 

Weiterführende Links:

Thema Chatkontrolle:

Thema Infrastrukturabgabe für Over-the-Top Anbieter:

Thema Dateninstitut: