Mein im Tagesspiegel Backround erschienener Artikel, vom 21.11.2022

Die Vorratsdatenspeicherung ist zwar weitgehend vom Tisch, aber nun droht ihre jüngste Schwester, bekannt als „Chatkontrolle“, per Europäischer Regulierung eine gefährliche Zensur-Infrastruktur zu schaffen, die von undemokratischen Regierungen, aber auch in der EU selbst missbraucht werden kann, ohne wirksame Kontrollmöglichkeiten durch Wissenschaft, Zivilgesellschaft, Journalismus oder Politik.

Die EU-Verordnung soll Kinder vor sexualisierter Gewalt schützen, in dem Bilder davon oder Cybergrooming eher entdeckt werden. Weitreichende
Eingriffe in Grundrechte werden immer mit Zielen durchgesetzt, bei denen der gesellschaftliche Widerstand klein ist, wer will schon als jemand da stehen, der Kindervergewaltiger vor Strafverfolgung schützt? Nach 9/11 war es der Kampf gegen den Terrorismus, davor war die Angst groß und deshalb der Widerstand klein gegen Überwachung im Netz.

Aber die Hürde für Grundrechtseinschränkungen liegt hoch, drei Anforderungen müssen erfüllt sein, unabhängig davon, wie edel die erklärten Ziele sind. Genau diese Prüfung nahm der unabhängige Wissenschaftliche Dienst des Bundestages in meinem Auftrag vor, denn jede Grundrechtseinschränkung muss sowohl geeignet, als auch angemessen und verhältnismäßig sein. Nach aktuellem Stand würde die Verordnung Diensteanbieter dazu verpflichten, eine Risikobewertung ihres Dienstes hinsichtlich der Verbreitung dieser speziellen Inhalte vorzunehmen. Dazu muss ein Diensteanbieter aber wissen, ob sein Dienst dafür genutzt wird, wozu er alle Inhalte kontrollieren muss. Das erfordert wiederum algorithmische Filter, da Milliarden von Inhalten zu prüfen wären.

Das ginge in zwei Varianten: entweder man baut Löcher in verschlüsselte Kommunikation ein, was ein klarer Verstoß gegen den Koalitionsvertrag wäre, der ein Bekenntnis zur Unantastbarkeit sicherer Verschlüsselungen enthält. Oder man nutzt Client Side Scanning (CSS), bei dem noch vor dem Verschlüsseln die Inhalte überprüft werden. Laut Wissenschaftlichem Dienst des Bundestages erfordert das CSS den Einbau „kodifizierter, werkseitiger Hintertüren“ in den genutzten Geräten, also absichtliche Schwachstellen, die auch Dritte für Cyberangriffe nutzen können. Das reduziert die IT-Sicherheit in Zeiten hoher Angriffswahrscheinlichkeiten.

Auf meine Fragen nach ihrer Haltung zum CSS antwortete die Bundesregierung stets ausweichend. Hält Innenministerin Nancy Faeser
eine Überwachung privater Kommunikationen per CSS etwa für vereinbar mit dem Koalitionsvertrag? Auch CSS macht verschlüsselte Kommunikation kaputt, denn ihr Zweck, vertrauliche und private Kommunikationen vor Kenntnisnahme Dritter zu schützen, ist nicht mehr erreichbar. Der Wissenschaftliche Dienst des Bundestages kommt daher zu der klaren Einschätzung, dass die verpflichtende Risikobewertung sichere Kommunikationswege faktisch abschafft.


Wäre die Chatkontrolle eine geeignete Maßnahme?

Schon bei der Prüfung der Eignung der Maßnahme dafür, ob sie Kinder vor sexualisierter Gewalt schützt, hat der Wissenschaftliche Dienst des Bundestages Bedenken und verweist u.a. auf den Kinderschutzbund, der die Verordnung für überzogen und in der Sache für nicht hilfreich hält. Das Hauptproblem sei nicht, dass es an Anzeigen fehlte, sondern dass es an Ressourcen fehlt, bei Anzeigen schnell und effektiv zu ermitteln. Es braucht schlicht mehr Personal. Die steigenden Fallzahlen der vergangenen Jahre liegen vor allem an der bereits stattfindenden Erhellung des Dunkelfeldes.

So arbeiteten in der zuständigen Stelle in NRW noch vor vier Jahren nur zwölf Fachkräfte, inzwischen sind es 90. Mit der Chatkontrolle bekämen diese bereits überlasteten Fachkräfte eine Welle Tausender falscher Meldungen zusätzlich, weil die Algorithmen auch bisher unbekannte Bilder flaggen und legales Sexting unterscheiden sollen von
Cybergrooming, was hohe Fehlerraten unvermeidbar macht. Das bindet Ressourcen, die bei echten Fällen fehlen werden – das wirkt sogar gegen
das erklärte Ziel.

Wäre die Chatkontrolle angemessen?

Der Wissenschaftliche Dienst prüfte auch, ob die Chatkontrolle angemessen ist, der EuGH meint damit, dass es keine andere Maßnahme gibt, die mit weniger Grundrechtseinschränkung das gleiche Ziel erreicht. Auch diese Prüfung besteht die Chatkontrolle nicht. Mehr Ressourcen für Strafverfolgung und vor allem für Prävention im Bereich Kinder-und Jugendschutz bereitzustellen, wären zum Beispiel grundrechtsfreundlichere Maßnahmen. Ich kenne selbst Fälle aus meinem Umfeld, wo weder von Cybergrooming betroffene Jugendliche noch deren Eltern und Lehrkräfte wussten, was zu tun war, wie groß potenzielle Gefahren sind und wie oft Täter mit falschen Identitäten unterwegs sind. Als Teil der Prävention zum Thema Cybergrooming könnte zum Beispiel der hervorragende Film „Gefangen im Netz“ in allen Schulen gezeigt und sein Material bearbeitet werden.

Wäre die Chatkontrolle verhältnismäßig?

Bei einer Grundrechtseinschränkung muss weiterhin der mit ihr erzielbare Nutzen in einem sinnvollen Verhältnis zu den unerwünschten Nebenwirkungen stehen, um vereinbar zu sein mit der EUGrundrechtecharta (Art. 7, 8, 11 GRCh) und mit der EU Richtlinie 2002/58/EG, die die Vertraulichkeit der Kommunikation schützt. Der Wissenschaftliche Dienst des Bundestages kommt auch bei dieser Prüfung zu einer eindeutigen Einschätzung: die Verhältnismäßigkeit sei nicht gegeben, da bereits der Nutzen fraglich sei, die zu erwartenden negativen Effekte sowohl für die gesamte Gesellschaft (Stichworte Chilling Effect, geminderte IT-Sicherheit u.a.) aber auch für die eigentlich zu schützenden Jugendlichen gravierend sind.

So stammen nach einem Bericht der „Frankfurter Allgemeinen Zeitung“ von 5. Oktober 2022 inzwischen schon etwa 50 Prozent der illegalen Verbreitung pornografischer Inhalte von Jugendlichen selbst. Da das Strafrecht in Deutschland nicht unterscheidet, ob ein 50-Jähriger mit einer 15-Jährigen explizite Bilder austauscht oder zwei 15-Jährige untereinander, werden Heranwachsende schon heute kriminalisiert. Da Algorithmen der Chatkontrolle Cybergrooming von Sexting zwischen Minderjährigen nicht unterscheiden können, geraten Jugendliche künftig noch häufiger unter Verfolgungsdruck. Der Wissenschaftliche Dienst des Bundestages verweist daher explizit auf die zu erwartenden negativen Folgen für die Entwicklung Heranwachsender.

Last but not least möchte ich auf die mangelnden Kontrollmöglichkeiten der Chatkontrolle hinweisen, denn schon in seinem Urteil zur Vorratsdatenspeicherung lehnten sowohl der EuGH als auch das Bundesverfassungsgericht deren Verhältnismäßigkeit auch mit dem Argument ab, dass es an hinreichendem Schutz vor Missbrauchsrisiken der Überwachung fehle.

Bei der Chatkontrolle wird ein als illegal identifiziertes Bild mit einem Algorithmus in einen Hash-Wert umgerechnet, der nicht wieder rückwärtsgerechnet werden kann. Dieser Hash-Wert wandert in eine Datenbank aller dorthin gemeldeten Hash-Werte. Ab da kann niemand mehr feststellen, was für ein Bild hinter einem solchen Hash steckt, es sei denn, man hat das Bild bereits und rechnet damit selbst einen Hash-Wert aus und kann dann beide Hash-Werte miteinander vergleichen. Will jemand die Verbreitung eines legalen, aber missliebigen Bildes behindern, bräuchte man nur den Hash-Wert dieses Bildes in die Datenbank laden und der Filter-Algorithmus der Chatkontrolle verhindert die Verbreitung dieses Bildes selbst in privaten Chats. Diese Eigenschaften machen die Chatkontrolle zu einer potenziell mächtigen Zensurmaschine, die sich externer Kontrolle entzieht. Bereits 2019 beschrieb die Electronic Frontier Foundation diese Missbrauchsmöglichkeiten von Client Side Scanning.

Ausblick

Viel Zeit bleibt nicht, um diese gefährliche Verordnung zu verhindern, sie soll den Digital Services Act ergänzen und voraussichtlich Anfang 2024 in Kraft treten. Mit an Sicherheit grenzender Wahrscheinlichkeit wäre eine Klage dagegen vor dem EuGH erfolgreich, aber bis zu einem Urteil vergingen Jahre, in denen Grundrechte verletzt werden, Diktaturen einen Blueprint für Zensurinfrastrukturen erhalten und den Einsatz mit Verweis auf die EU rechtfertigen können und in denen sinnlos Ressourcen gebunden werden, die für den wirksamen Schutz von Kindern vor sexualisierter Gewalt fehlen.

Endlich liegt sie vor, die Digitalstrategie der Bundesregierung. Auf mehr als 50 Seiten beschreibt die Ampel, was sie sich so alles vorgenommen hat und woran sie sich messen lassen will. Liest man sie oberflächlich und ignoriert die letzten 8 Monate, könnte man oft nicken und zu dem Schluss kommen, dass das doch ein ganz guter Plan für die nächsten drei Jahre wäre. Aber wie überall steckt der Teufel im Detail und kommt es nicht auf Worte, sondern auf Taten an.

Auch die letzten Regierungen haben uns schon das Blaue vom Himmel versprochen, Angela Merkel zum Beispiel 50MBit/s für jeden bis 2018 – vier Jahre später ist den Bürgerinnen und Bürgern im ländlichen Raum längst das Lachen darüber vergangen. Nun also soll bis möglichst 2026 flächendeckend Mobilfunk vorhanden sein und bis 2025 soll jeder zweite Haushalt einen Glasfaseranschluss haben. Aber ob das klappt, steht genauso in den Sternen, wie die Antwort auf die Frage, ob ihn sich auch jeder leisten können wird, denn wie soll sonst jeder teilhaben können an der digitalen Gesellschaft?

Ehrgeiz klingt anders

„You get what you measure“ (man kriegt, was man misst) – heißt es, ein kluger Satz gerade bei Transformationsprojekten. Es reicht also nicht, ein Ziel schön in Prosa zu beschreiben, man muss es übersetzen in messbare Kriterien, die aber auch wirklich die Zielerreichung abbilden. Das ist gar nicht so einfach wie es klingt. Und natürlich braucht es nicht nur ein finales Ziel, sondern auch Meilensteine, damit man auch auf dem Weg schon feststellen kann, ob man schnell genug voran kommt, oder hier und da nachsteuern muss. Diese Binsenweisheit berücksichtigt die Digitalstrategie der Bundesregierung nicht. Viele schöne Ziele bleiben inkonkret, wie z.B. „die Nutzung der Abwärme aus Rechenzentren wollen wir verbessern“. Ständig verspricht die Ampel-Regierung irgendetwas zu „verbessern“ oder zu „stärken“. Ehrgeiz klingt anders.

Wo es konkrete Ziele gibt, bleiben sie ohne Zwischenziele, der Erfolg der Ampel soll offenbar erst am Ende ihrer Regierungszeit überprüfbar sein, denn 52 von 60 Mal wird als Zeithorizont das Jahr 2025 genannt. Wozu diese Furcht vor Kritik führen wird, ist jetzt schon klar: viele Ziele werden schlicht nicht erreicht werden.

Wie zum Beispiel die von der alten GroKo versprochenen 575 digitalen Dienstleistungen der Verwaltung, die mit dem Onlinezugangsgesetz 2017 beschlossen wurden und bis Ende 2022 kommen sollten. Die Ampel hatte erst im Mai dieses Ziel kräftig abgespeckt auf 35 Dienstleistungen, die stattdessen bis Dezember flächendeckend verfügbar sein sollten. Aber wie meine Kleine Anfrage gerade erst zeigte: auch diese 35 werden nicht kommen. Die Ampel hat ihre Umsetzung gleich mal auf 2025 verschoben, Zwischenziele nennt sie nicht.

Viele Köche verderben den Brei

Für eine erfolgreiche Umsetzung braucht es aber auch Ressourcen und klare Verantwortlichkeiten. Das versprochene Digitalbudget ist aber weiterhin nicht in Sicht und die Verantwortlichkeiten für digitale Themen sind 38 Wochen nach Regierungsantritt ein heilloses Durcheinander. Über manche Zuständigkeiten wird immer noch gezankt in der Koalition, bei anderen hat man mangels Konsensfähigkeit einfach drei oder vier Ministerien die Federführung zugeschrieben. Aber viele Köche verderben den Brei, und wenn vier Ministerien für ein Schlüsselthema wie digitale Identitäten zuständig sind, ist das totale Chaos vorprogrammiert. Wenn die Ziele nicht erreicht werden, kann man sich dann wunderbar gegenseitig die Schuld zuschieben.

In der Strategie gibt es durchaus auch gute Inhalte, zum Beispiel im Bereich der Nachhaltigkeit, wie ein Recht auf Reparatur, mit dem Versprechen, dass man Zugang zu Ersatzteilen und Reparaturanleitungen bekommen soll. Das digitale Ehrenamt soll mehr Unterstützung finden, Hersteller sollen für fahrlässige Sicherheitslücken haften, und der Kulturwandel in der öffentlichen Verwaltung soll endlich konkret angegangen werden.

Im Bereich der IT-Sicherheit klaffen große Lücken

Dennoch werde ich den Pessimismus nicht los, der sich durch die letzten acht Monate Ampel-Regierung bei mir breit gemacht hat. Die digitale Zivilgesellschaft soll einbezogen werden, steht in der Strategie, aber bei der Strategie selbst hatte sie bisher kein Wort mitzureden. Wichtige Themen aus dem Koalitionsvertrag, wie das Transparenzgesetz, fehlen einfach ganz. Im Bereich der IT-Sicherheit klaffen große Lücken: das BSI wird nicht unabhängig, die IT-Sicherheitsforschung wird nicht entkriminalisiert, ein Cyberhilfswerk fehlt genauso wie ein Verbot für Bundesbehörden, Sicherheitslücken auszunutzen, statt in jedem Fall für ihre Schließung zu sorgen. Bei den Effizienzkriterien für Rechenzentren ist bei den Zielvorgaben von einem „Effizienzregister für mehr Wettbewerb“ die Rede, das klingt verdächtig nach Freiwilligkeit und der Markt wird es richten. Das hat schon viel zu oft nicht geklappt.

Wir werden die Ampel jedenfalls nicht nur nach ihren Versprechungen bewerten, sondern vor allem daran, was sie tatsächlich umsetzt, und wie und ob das tatsächlich mit der versprochenen Gemeinwohlorientierung erfolgt. Ich habe da so meine Zweifel, denn die FDP wird das schon zu verhindern wissen.

Kommentar zuerst erschienen am 31.08.2022 auf Linksfraktion.de.

Mein Textbeitrag ist zuerst am 08. Juni 2022 bei der Rosa Luxemburg Stiftung in der Kategorie ‚Digitalisierung und Demokratie‘ erschienen.

Der angekündigte Kauf von Twitter durch den reichsten Menschen der Welt, Elon Musk, lenkte erneut Aufmerksamkeit auf die Frage, welche Rolle eigentlich digitale Konzerne spielen, welche Gefahren von ihnen ausgehen, nicht nur für einen funktionierenden Wettbewerb, sondern auch für die Demokratie selbst, denn wer die Kommunikation zwischen Millionen Menschen kontrollieren und steuern kann, der hat ein mächtiges Manipulationswerkzeug in der Hand. Jahrzehnte ließ man die digitale Wirtschaft einfach machen, Regulierung hinkte immer um viele Jahre hinterher und so konnten größere Konzerne entstehen, als je zuvor in der Geschichte der Menschheit.

Weiterlesen

Der Textbeitrag ist zuerst am 24. September 2021 auf Zeit Online im diesem Artikel erschienen: Was bleibt von Angela Merkel? Eine Bilanz ihrer Kanzlerschaft: Zehn Standpunkte aus Politik, Wissenschaft und Kultur.

Verrat an den Frauen

von Anke Domscheit-Berg, Abgeordnete des Bundestags

Angela Merkel war 36 Jahre alt, als sie 1990 in den Bundestag einzog. Schon 15 Jahre später wurde sie Kanzlerin. Für mich war sie nicht nur die erste Kanzlerin, sondern eine Ostfrau im Kanzleramt. Sie ist im brandenburgischen Templin aufgewachsen, eine halbe Stunde von meinem Wohnort entfernt. Auch wenn Merkels Biografie einzigartig ist, hat sie doch Gemeinsamkeiten mit denen vieler Ostfrauen.

Weiterlesen