Beiträge

Warum die Chatkontrolle nutzlos, aber gefährlich ist

, , , , , , , , ,

Mein im Tagesspiegel Backround erschienener Artikel, vom 21.11.2022

Die Vorratsdatenspeicherung ist zwar weitgehend vom Tisch, aber nun droht ihre jüngste Schwester, bekannt als „Chatkontrolle“, per Europäischer Regulierung eine gefährliche Zensur-Infrastruktur zu schaffen, die von undemokratischen Regierungen, aber auch in der EU selbst missbraucht werden kann, ohne wirksame Kontrollmöglichkeiten durch Wissenschaft, Zivilgesellschaft, Journalismus oder Politik.

Die EU-Verordnung soll Kinder vor sexualisierter Gewalt schützen, in dem Bilder davon oder Cybergrooming eher entdeckt werden. Weitreichende
Eingriffe in Grundrechte werden immer mit Zielen durchgesetzt, bei denen der gesellschaftliche Widerstand klein ist, wer will schon als jemand da stehen, der Kindervergewaltiger vor Strafverfolgung schützt? Nach 9/11 war es der Kampf gegen den Terrorismus, davor war die Angst groß und deshalb der Widerstand klein gegen Überwachung im Netz.

Aber die Hürde für Grundrechtseinschränkungen liegt hoch, drei Anforderungen müssen erfüllt sein, unabhängig davon, wie edel die erklärten Ziele sind. Genau diese Prüfung nahm der unabhängige Wissenschaftliche Dienst des Bundestages in meinem Auftrag vor, denn jede Grundrechtseinschränkung muss sowohl geeignet, als auch angemessen und verhältnismäßig sein. Nach aktuellem Stand würde die Verordnung Diensteanbieter dazu verpflichten, eine Risikobewertung ihres Dienstes hinsichtlich der Verbreitung dieser speziellen Inhalte vorzunehmen. Dazu muss ein Diensteanbieter aber wissen, ob sein Dienst dafür genutzt wird, wozu er alle Inhalte kontrollieren muss. Das erfordert wiederum algorithmische Filter, da Milliarden von Inhalten zu prüfen wären.

Das ginge in zwei Varianten: entweder man baut Löcher in verschlüsselte Kommunikation ein, was ein klarer Verstoß gegen den Koalitionsvertrag wäre, der ein Bekenntnis zur Unantastbarkeit sicherer Verschlüsselungen enthält. Oder man nutzt Client Side Scanning (CSS), bei dem noch vor dem Verschlüsseln die Inhalte überprüft werden. Laut Wissenschaftlichem Dienst des Bundestages erfordert das CSS den Einbau „kodifizierter, werkseitiger Hintertüren“ in den genutzten Geräten, also absichtliche Schwachstellen, die auch Dritte für Cyberangriffe nutzen können. Das reduziert die IT-Sicherheit in Zeiten hoher Angriffswahrscheinlichkeiten.

Auf meine Fragen nach ihrer Haltung zum CSS antwortete die Bundesregierung stets ausweichend. Hält Innenministerin Nancy Faeser
eine Überwachung privater Kommunikationen per CSS etwa für vereinbar mit dem Koalitionsvertrag? Auch CSS macht verschlüsselte Kommunikation kaputt, denn ihr Zweck, vertrauliche und private Kommunikationen vor Kenntnisnahme Dritter zu schützen, ist nicht mehr erreichbar. Der Wissenschaftliche Dienst des Bundestages kommt daher zu der klaren Einschätzung, dass die verpflichtende Risikobewertung sichere Kommunikationswege faktisch abschafft.


Wäre die Chatkontrolle eine geeignete Maßnahme?

Schon bei der Prüfung der Eignung der Maßnahme dafür, ob sie Kinder vor sexualisierter Gewalt schützt, hat der Wissenschaftliche Dienst des Bundestages Bedenken und verweist u.a. auf den Kinderschutzbund, der die Verordnung für überzogen und in der Sache für nicht hilfreich hält. Das Hauptproblem sei nicht, dass es an Anzeigen fehlte, sondern dass es an Ressourcen fehlt, bei Anzeigen schnell und effektiv zu ermitteln. Es braucht schlicht mehr Personal. Die steigenden Fallzahlen der vergangenen Jahre liegen vor allem an der bereits stattfindenden Erhellung des Dunkelfeldes.

So arbeiteten in der zuständigen Stelle in NRW noch vor vier Jahren nur zwölf Fachkräfte, inzwischen sind es 90. Mit der Chatkontrolle bekämen diese bereits überlasteten Fachkräfte eine Welle Tausender falscher Meldungen zusätzlich, weil die Algorithmen auch bisher unbekannte Bilder flaggen und legales Sexting unterscheiden sollen von
Cybergrooming, was hohe Fehlerraten unvermeidbar macht. Das bindet Ressourcen, die bei echten Fällen fehlen werden – das wirkt sogar gegen
das erklärte Ziel.

Wäre die Chatkontrolle angemessen?

Der Wissenschaftliche Dienst prüfte auch, ob die Chatkontrolle angemessen ist, der EuGH meint damit, dass es keine andere Maßnahme gibt, die mit weniger Grundrechtseinschränkung das gleiche Ziel erreicht. Auch diese Prüfung besteht die Chatkontrolle nicht. Mehr Ressourcen für Strafverfolgung und vor allem für Prävention im Bereich Kinder-und Jugendschutz bereitzustellen, wären zum Beispiel grundrechtsfreundlichere Maßnahmen. Ich kenne selbst Fälle aus meinem Umfeld, wo weder von Cybergrooming betroffene Jugendliche noch deren Eltern und Lehrkräfte wussten, was zu tun war, wie groß potenzielle Gefahren sind und wie oft Täter mit falschen Identitäten unterwegs sind. Als Teil der Prävention zum Thema Cybergrooming könnte zum Beispiel der hervorragende Film „Gefangen im Netz“ in allen Schulen gezeigt und sein Material bearbeitet werden.

Wäre die Chatkontrolle verhältnismäßig?

Bei einer Grundrechtseinschränkung muss weiterhin der mit ihr erzielbare Nutzen in einem sinnvollen Verhältnis zu den unerwünschten Nebenwirkungen stehen, um vereinbar zu sein mit der EUGrundrechtecharta (Art. 7, 8, 11 GRCh) und mit der EU Richtlinie 2002/58/EG, die die Vertraulichkeit der Kommunikation schützt. Der Wissenschaftliche Dienst des Bundestages kommt auch bei dieser Prüfung zu einer eindeutigen Einschätzung: die Verhältnismäßigkeit sei nicht gegeben, da bereits der Nutzen fraglich sei, die zu erwartenden negativen Effekte sowohl für die gesamte Gesellschaft (Stichworte Chilling Effect, geminderte IT-Sicherheit u.a.) aber auch für die eigentlich zu schützenden Jugendlichen gravierend sind.

So stammen nach einem Bericht der „Frankfurter Allgemeinen Zeitung“ von 5. Oktober 2022 inzwischen schon etwa 50 Prozent der illegalen Verbreitung pornografischer Inhalte von Jugendlichen selbst. Da das Strafrecht in Deutschland nicht unterscheidet, ob ein 50-Jähriger mit einer 15-Jährigen explizite Bilder austauscht oder zwei 15-Jährige untereinander, werden Heranwachsende schon heute kriminalisiert. Da Algorithmen der Chatkontrolle Cybergrooming von Sexting zwischen Minderjährigen nicht unterscheiden können, geraten Jugendliche künftig noch häufiger unter Verfolgungsdruck. Der Wissenschaftliche Dienst des Bundestages verweist daher explizit auf die zu erwartenden negativen Folgen für die Entwicklung Heranwachsender.

Last but not least möchte ich auf die mangelnden Kontrollmöglichkeiten der Chatkontrolle hinweisen, denn schon in seinem Urteil zur Vorratsdatenspeicherung lehnten sowohl der EuGH als auch das Bundesverfassungsgericht deren Verhältnismäßigkeit auch mit dem Argument ab, dass es an hinreichendem Schutz vor Missbrauchsrisiken der Überwachung fehle.

Bei der Chatkontrolle wird ein als illegal identifiziertes Bild mit einem Algorithmus in einen Hash-Wert umgerechnet, der nicht wieder rückwärtsgerechnet werden kann. Dieser Hash-Wert wandert in eine Datenbank aller dorthin gemeldeten Hash-Werte. Ab da kann niemand mehr feststellen, was für ein Bild hinter einem solchen Hash steckt, es sei denn, man hat das Bild bereits und rechnet damit selbst einen Hash-Wert aus und kann dann beide Hash-Werte miteinander vergleichen. Will jemand die Verbreitung eines legalen, aber missliebigen Bildes behindern, bräuchte man nur den Hash-Wert dieses Bildes in die Datenbank laden und der Filter-Algorithmus der Chatkontrolle verhindert die Verbreitung dieses Bildes selbst in privaten Chats. Diese Eigenschaften machen die Chatkontrolle zu einer potenziell mächtigen Zensurmaschine, die sich externer Kontrolle entzieht. Bereits 2019 beschrieb die Electronic Frontier Foundation diese Missbrauchsmöglichkeiten von Client Side Scanning.

Ausblick

Viel Zeit bleibt nicht, um diese gefährliche Verordnung zu verhindern, sie soll den Digital Services Act ergänzen und voraussichtlich Anfang 2024 in Kraft treten. Mit an Sicherheit grenzender Wahrscheinlichkeit wäre eine Klage dagegen vor dem EuGH erfolgreich, aber bis zu einem Urteil vergingen Jahre, in denen Grundrechte verletzt werden, Diktaturen einen Blueprint für Zensurinfrastrukturen erhalten und den Einsatz mit Verweis auf die EU rechtfertigen können und in denen sinnlos Ressourcen gebunden werden, die für den wirksamen Schutz von Kindern vor sexualisierter Gewalt fehlen.

/von

Schriftliche Frage zu Maßnahmen gegen Cybergrooming

, ,

Frage

Welche konkreten Maßnahmen beispielsweise hinsichtlich Forschung, Prävention und Unterstützung von Opfern und ihrem sozialen Umfeld sowie zur Verbesserung der Strafverfolgung bei Einhaltung der Grundrechte unternimmt oder plant die Bundesregierung, um das im Koalitionsvertrag zwischen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP verankerte Ziel aus dem Abschnitt Kinderschutz mit Bezug auf Cybergrooming zu erreichen, und sind insbesondere breite Sensibilisierungskampagnen für Minderjährige und ihr soziales Umfeld (einschließlich Schule) geplant, die z.B. auch den kostenfreien Zugang zum Dokumentations- und Aufklärungsfilm “Gefangen im Netz” und die Förderung begleitender, auch kindgerechter Fachgespräche umfassen? (Drucksache 20/2779, Frage 115).

Antwort des Parlamentarischen Staatssekretärs Sven Lehmann am 12. Juli 2022

Bei Cybergrooming handelt es sich um eine der zentralen Gefahren für Kinder und Jugendliche in ihrem alltäglichen Umgang mit digitalen Medien.

Kinder und Jugendliche selbst, aber auch Eltern und Lehrende oder Erziehende zu sensibilisieren und zu schulen, stellt ein wichtiges Ziel der Bundesregierung dar, welches mit zahlreichen Maßnahmen hinterlegt ist.

Im Rahmen der Initiative „Gutes Aufwachsen mit Medien“ fördert das Bundesministe- rium für Familien, Senioren, Frauen und Jugend (BMFSFJ) Projekte, die die Medienkompetenz von Kindern und Jugendlichen stärken und Eltern und Erziehenden Orientierung in der digitalen Medienwelt bieten sollen; unter anderem auch mit Schwerpunkt im Bereich Cybergrooming. Bei der Initiative „Schau hin! Was dein Kind mit Medien macht“ wird das Risiko des Cybergroomings vor allem Eltern und Erziehenden nähergebracht und Informationen zur Unterstützung gegeben, wie Kinder geschützt werden können. Das Rat- und Hilfeangebot „jugend.support“ richtet sich an Kinder und Jugendliche ab zehn Jahren und bietet ihnen zielgruppengerecht Unterstützung beim Thema sexuelle Belästigung im digitalen Raum.

Daneben wird vom BMFSFJ etwa mit „#UndDu?“ die Umsetzung von Maßnahmen zur Prävention und Intervention gegen sexualisierte Gewalt unter Jugendlichen durch den Projektträger Innocence in Danger e. V., der sich auch mit dem Thema Cybergrooming befasst, gefördert. Ziel des Projektes ist die Entwicklung eines umfassenden Präventionskonzeptes, welches die Entwicklung, Durchführung und Evaluierung von Workshops für Jugendliche, Eltern und Fachkräfte sowie Train-the-Trainer Workshops umfasst und die Umsetzung digitaler Angebote (Online-Portal und Fachkräfte-App) vorsieht. Diese Bausteine werden in zwei Modellregionen ganzheitlich umgesetzt und erprobt. Darüber hinaus werden diese Maßnahmen durch eine partizipative Social-Media-Kampagne begleitet. Das Projekt wird im Zeitraum Juni 2021 bis Mai 2023 mit 1.769.756,00 Euro vom BMFSFJ gefördert. Weitere Informationen und Materialien finden sich unter: https://innocenceindanger.de/projekte/unddu/.

In dem Bund-Länder-finanzierten Programm Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK) werden Konzepte, Medien und Initiativen, die über Kriminalität aufklären und Schutzempfehlungen vermitteln, entwickelt. Die Internetpräsenz dieses Programms informiert unter dem Stichwort „Sexualdelikte“ unter anderem über Prävention bezüglich der Verbreitung von kinder- und jugendpornografischen Inhalten über das Internet und die Strafbarkeit entsprechender Handlungen. Unter https://www.polizei-beratung.de/medienangebot/detail/29851-sexueller-missbrauch- kindesmissbrauch/ lassen sich zudem umfangreiche Medienpakete zu der Thematik finden. Besonders hervorzuheben ist hier die „Sounds wrong“-Kampagne, welche Kinder und Jugendliche über die leichtfertige Weiterleitung von missbräuchlichen Darstellungen informiert sowie Erwachsene im direkten Umfeld für die Problematik sensibilisiert.

Im Rahmen der Förderlinie „Forschung zu sexualisierter Gewalt gegen Kinder und Jugendliche in pädagogischen Kontexten“ förderte bzw. fördert das Bundesministerium für Bildung und Forschung einzelne Forschungsprojekte („Entwicklung von Handlungsempfehlungen für die pädagogische Praxis zum fachlichen Umgang mit sexualisierter Gewalt mit digitalem Medieneinsatz“ an der SRH Hochschule Heidelberg GmbH; „Stärken oder schützen“ als Verbundvorhaben an der Universität Münster und dem Universitätsklinikum Hamburg-Eppendorf; „Stärken oder schützen – in digitalen Medien. Ein Professionalisierungsbeitrag zum Umgang mit Antinomien in präventiven Bildungsangeboten“ als Verbundvorhaben am Universitätsklinikum Hamburg-Eppendorf, der Hochschule Hannover und der Universität Münster).

In den Forschungsprojekten werden wissenschaftliche Erkenntnisse für die Entwicklung von Maßnahmen zum Erkennen und zur Prävention von Cybergrooming insbesondere in Bildungs- und Betreuungseinrichtungen gewonnen.

Antwortschreiben im Original (pdf)

/von

Digitale Gewalt gegen Frauen: Kleine Anfrage an die Bundesregierung

, , ,

Foto: Jeanette Tittel, https://creativecommons.org/licenses/by/4.0/legalcode

Seit fast 20 Jahren finden immer am 25. November Aktionen statt, um auf Gewalt gegen Frauen aufmerksam zu machen. Seinen Ursprung hat dieser „Internationale Tag zur Beseitigung von Gewalt gegen Frauen“ in der Dominikanischen Republik. Am 25. November 1960 wurden die drei Schwestern Mirabal wegen ihrer politischen Aktivitäten gegen die Diktatur nach monatelanger Folter getötet.

Auch heute kämpfen wir gegen Gewalt, die Frauen in allen gesellschaftlichen Bereichen begegnet, im privaten Raum, bei der Arbeit oder auch im Internet. Im vergangenen Jahr wurden 147 Frauen von ihrem (Ex-)Partner getötet, 224 Frauen überlebten solche Tötungsversuche. Jeden Tag versucht also ein Mann, seine (Ex-)Partnerin zu töten, alle zweieinhalb Tage erreicht er sein tödliches Ziel. In den Medien werden diese Morde dann meist Tatsachen verdrehend als Beziehungsdrama bezeichnet.

Im Land Brandenburg lag die Zahl der gemeldeten Fälle von häuslicher Gewalt im Jahr 2017 bei 4254, bundesweit wurden 140.000 Menschen Opfer häuslicher Gewalt, 82 Prozent waren Frauen. Es gibt in Deutschland zu wenig Plätze in Frauenhäusern, auch das Frauenhaus in Brandenburg an der Havel, kann kaum noch Frauen (und Kinder) aufnehmen. Über die Ausfinanzierung müssen sich dringend alle politischen Ebenen einigen.

Auch wenn Gewalt gegen Frauen am häufigsten im privaten Raum stattfindet und nicht, wie oft angenommen, auf dunkler Straße und durch Fremde, gibt es sichere Räume praktisch nicht, was die Bewegungsfreiheit von Frauen einschränkt, denn fast jede meidet bestimmte Orte, weil sie sie für Frauen gefährlich findet. Angesichts vielfältiger Kleidungs- und Verhaltenstipps für Frauen muss jedoch deutlich gesagt werden: verantwortlich für Gewalt sind Täter, nicht Opfer.

Mich schockiert auch, wie wenig ernst Gewalt gegen Frauen im Internet genommen wird. Die Polizei kennt sich z. B. nur äußerst selten mit den Möglichkeiten für digitales Stalking durch unsichtbare Apps auf dem Handy aus. Wenn Frauen aber dadurch jederzeit geortet werden können, steigt ihr Risiko, Opfer physischer Gewalt zu werden. Auch mit Beleidigungen bis hin zur Androhung von Vergewaltigung, Misshandlungen und Mord  werden Frauen zunehmend im Netz konfrontiert. Auch ich habe Hassnachrichten erhalten, wurde beleidigt und bedroht. Ich habe manches bei der Polizei angezeigt, aber noch nie endete ein Fall vor Gericht. Polizei und Justiz fehlen die fachliche Kompetenz und die personellen Kapazitäten, um sich angemessen um diese Rechtsbrüche zu kümmern. Vielen fehlt selbst das grundlegendste Verständnis. Das voriges Jahr in Kraft getretene Netzwerkdurchsetzungsgesetz (NetzDG) bringt hier nur wenig Abhilfe. Es führt bestenfalls zur Löschung von Hassnachrichten, aber nicht zur Strafverfolgung. Und die Entscheidung, ob überhaupt gelöscht wird, liegt im Ermessen von Großkonzernen wie Facebook oder Twitter. Hassnachrichten über Messengerdienste sind überhaupt nicht vom NetzDG erfasst.

Digitale Gewalt ist jedoch mehr als Hassnachrichten, dazu zählt auch das Veröffentlichen persönlicher Informationen im Netz, wie Adresse oder Telefonnummer, Identitätsmissbrauch z. B. durch Anlegen gefälschter Profile auf Pornoseiten, oder der Versand intimer Fotos an den Arbeitgeber. Solche Taten wirken in das Leben der Betroffenen hinein. Die Bundesregierung bleibt jedoch weitgehend untätig, was die Untersuchung dieser Problematik und vor allem ihre Bekämpfung angeht, sie lässt die Opfer allein.

In einer Kleinen Anfrage zum Thema „Digitale Gewalt gegen Frauen“ (Drucksache 19/5743) fordere ich daher von der Bundesregierung Fakten und Informationen zu konkreten Maßnahmen, wie sie das Ausmaß digitaler Gewalt erfasst und wie sie gegen digitale Gewalt vorgeht. Zu beidem hat sie sich mit Ratifizierung der Istanbul Konvention verpflichtet.  Das Internet muss ein Raum sein, in dem sich Menschen frei bewegen können, ohne Angst vor jedweder Form von Gewalt. Staatliche Behörden müssen das Thema endlich ernst nehmen, Polizist*innen und Strafverfolgungsbeamte weiterbilden und eine zeitgemäße IT-Ausstattung erhalten. Es wird Zeit, dass die Polizei bei Fällen digitaler Gewalt konsequent Ermittlungen aufnimmt und die Justiz Recht auch durchsetzt. Online-Aktionen wie #metoo oder #keinemehr bleiben wichtig, um Aufmerksamkeit auf das Ausmaß digitaler Gewalt zu lenken. Als Feministin, Netzaktivistin und als persönlich Betroffene, ist mir das Thema besonders wichtig, ich bin deshalb sehr gespannt auf die Antworten der Regierung.

Update:

/von