Seit September 2018 tagt die vom Bundestag eingesetzte Enquete-Kommission Künstliche Intelligenz, deren Mitglied ich bin. Sie befaßt sich mit der Entstehung und dem Einsatz selbstlernender Systeme, also etwa mit Software, deren Algorithmen sich bei der Lösung eines Problems selbst verbessern können – bis hin zu Software, die allein Lösungen für Probleme findet und ohne Beteiligung von Menschen Entscheidungen trifft- zum Beispiel bei der Steuerung vollständig autonomer Fahrzeuge. Es stellen sich dabei sehr viele vor allem auch ethische Fragen, daher haben wir als Linksfraktion im Bundestag die Einsetzung der Enquete Kommission begrüßt. Unsere Obfrau ist Petra Sitte, weitere Mitglieder sind Jessica Tatti und Achim Kessler. Wir haben die Themen unter uns verteilt, denn jede*r hat so seine Spezialgebiete und vieles an der Arbeit findet parallel statt – man muss sich also in Untergruppen teilen. Dazu passend haben wir unsere Sachverständigen ausgewählt: Prof. Dr. Katharina Zweig ist nicht nur Professorin für Informatik an der TU Kaiserslautern und dabei in der kritischen Algorithmus- und Data-Science-Forschung tätig, sondern gründete dort auch den bundesweit ersten Studiengang „Sozioinformatik“, der sich mit den gesellschaftlichen Folgen der Digitalisierung auseinandersetzt. Bekannt ist sie auch als Gründerin der NGO Algorithmwatch. Mit ihr an Bord ist Dr. Florian Butollo, der am Weizenbaum Institut für die vernetzte Gesellschaft die Forschungsgruppe „Arbeit in hoch automatisierten digital-hybriden Prozessen“ leitet.

Das Ziel der Enquete ist, Handlungsempfehlungen hinsichtlich der Förderung und Regulierung des Einsatzes künstlicher Intelligenz für die Bundesregierung zu entwickeln. Für einige Fraktionen scheint es dabei hauptsächlich darum zu gehen, wie Deutschland eine globale Spitzenposition bei dieser Technologie erreichen kann, um der Wirtschaft gute Rahmenbedingungen in einem neuen Wachstumsmarkt zu schaffen.

Unser Fokus als Fraktion in der Kommission ist allerdings anders, uns geht es um eine Weichenstellung, die sich an Grundrechten und Werten orientiert und die den gemeinwohlorientierten Einsatz von KI in den Vordergrund stellt – und nicht die Maximierung von Gewinnen für einzelne Unternehmen. Wir wollen Transparenz und Offenheit aber auch die Beteiligung von Bürgerinnen und Bürgern bei der Entwicklung von Schwerpunkten für den Einsatz von künstlicher Intelligenz und bei der Grenzziehung, also bei der Entscheidung, wo wir überhaupt einen Einsatz von künstlicher Intelligenz wollen und wo nicht.

Die Enquete Kommission beschäftigt sich seit einer gemeinsamen Einführungsphase in sechs Projektgruppen mit jeweils einen Themenblock. Seit Februar geht es in den ersten drei Projektgruppen um die Bereiche Wirtschaft, Staat und Gesundheit. Danach schließen sich im Herbst drei Projektgruppen mit den Themenfeldern Forschung /Bildung / Arbeit sowie Mobilität und Medien/Demokratie an. Aber nicht alle Arbeit findet nur noch in den Projektgruppen statt, die gesamte Enquete Kommission,19 MdB und 19 Sachverstände, trifft sich weiterhin jeden ersten Montag im Monat, z.B. für gemeinsame Anhörungen von Sachverständigen zu übergeordneten Themen oder um Zwischenstände aus den Projektgruppen untereinander auszutauschen.

Ich bin Leiterin der Projektgruppe KI in Staat und Verwaltung, plane und moderiere unsere Arbeitsgruppensitzungen, die mehrmals monatlich stattfinden. Auch dorthin laden wir Fachleute ein, die ebenso wie Mitglieder der Projektgruppe mit entsprechenden Fachkenntnissen Vorträge zu spezifischen Themen halten. Dazu gehört vor allem erst einmal zu sammeln, was der jeweilige Sachstand ist, welche guten und schlechten Erfahrungen es bei Anwendungen im In- und Ausland gibt, welche Chancen oder Risiken sich daraus ergeben. Gemeinsam versuchen wir auf dieser Wissensbasis Handlungsempfehlungen und Regulierungsbedarfe zu erarbeiten.

In „meiner“ Projektgruppe „KI und Staat“ bearbeiten wir uns eine ganze Bandbreite von Themen. Sie beginnt mit dem KI Einsatz innerhalb von Behörden für interne Prozesse z.B. Die Erkennung verdächtiger Muster in den Steuerdaten von Finanzämtern, um Steuerhinterziehungen besser zu entdecken oder die automatische Sortierung von Eingangspost durch intelligente Texterkennung mit selbst lernender Software. Wir befassen uns auch mit dem Einsatz von KI durch staatliche Stellen, die sich nach extern richtet, also zum Beispiel Gesichtserkennungssysteme zur Gefahrenabwehr aber auch mit der Nutzung von Chatbots, die bei der Antragstellung und dem Ausfüllen von Formularen hilfreich sein können oder als „City-Bot“ wie der Wienbot viele verschiedene Fragen beantworten können, rund um die Uhr, und mit denen man in natürlicher Sprache z.B. per Messenger kommunizieren kann. Sogenannte „Robo Lawyers“ (Roboter Anwälte) können helfen, Rechtsansprüche und Widersprüche gegenüber dem Staat automatisiert und ohne teure Anwälte durchzusetzen. Für viele Anspruchsberechtigte sind Antragshürden nach wie vor zu hoch – gerade bei den Bedürftigsten sind Anspruchnahmen daher gering. Messenger-basierte Chatbots sind aufgrund natürlicher Sprachverwendung barrierearm, multilingual möglich, erfordern keinen Amtsbesuch und sind immer erreichbar. Hier kann KI konkret und direkt für mehr Teilhabe sorgen.

Meinen Schwerpunkt innerhalb der Gruppe lege ich darauf, den staatlichen Einsatz von KI auf gemeinwohlorientierte Anwendungen zu fokussieren und bei Anwendungen im Bereich der inneren Sicherheit unbedingt jede Erosion der Grundrechte zu verhindern. Nicht alles, was möglich ist, darf auch gemacht werden, hier sind klare rote Linien zu ziehen, beispielsweise darf es keine Massenüberwachung im öffentlichen Raum durch intelligente Kameras geben, die Verdächtige identifizieren sollen. Nach wie vor sind die Fehlerquoten derartiger Systeme so hoch, dass unzählige Unschuldige zu Verdächtigen werden. Ab Mai befasst sich meine Projektgruppe auch mit dem Thema militärische Einsätze, auch hier haben wir von Seiten der Linksfraktion ganz klare rote Linien, denn auch autonome Waffensysteme sind KI-Systeme. Wir streben eine Ächtung aller digitalen Waffensysteme an, ihren Einsatz genauso wie ihre Herstellung und ihren Export. Waffen, die sich ihr Ziel selbst suchen, identifizieren und töten, darf es nicht geben.

Eines der übergreifenden Themen, das alle Projektgruppen der Enquete berührt, ist die Nutzung von Daten und die Abwägung zwischen Datenschutz, Privatsphäre und Nutzbarmachung. Wir wollen öffentliche Daten nutzen und private Daten schützen und nach Wegen suchen, wie man für die Entwicklung gemeinwohlorientierter KI-Anwendungen große Datenbanken für die Nutzung durch die Allgemeinheit verfügbar machen kann. So lange große Datenmengen nur digitalen Großkonzernen zur Verfügung stehen, werden sie Schindluder damit treiben, so wie wir das von den Datenskandalen z.B. von Facebook kennen. Kleinere Unternehmen, vor allem auch nicht-Gewinnorientierte Sozial-Startups haben jedoch ohne Daten zum Trainieren der KI-Systeme keine Chance auf Erfolg. Dazu zählen zum Beispiel Mobilitätsdaten in einer Kommune, die die Entstehung einer gemeinwohlorientierten Alternative zum Mitfahrdienst UBER ermöglichen würden. Denkbar ist für uns dabei unter anderem eine Idee aus unserer Projektgruppe, nicht-personenbezogene Daten zur öffentlichen Daseinsvorsorge zu zählen, um die Entwicklung von KI-Systemen, die dem Gemeinwohl nützen, zu erleichtern und zu beschleunigen. Wir werden diese und weitere Ideen in der Kommission weiterhin diskutieren.

Als Linksfraktion haben wir uns für diese Kommission klare Ziele gesetzt: Wir wollen und können das Wettrennen mit den USA und China nicht unterstützen. Beide Seiten können uns nicht die Vorbilder sein, denen wir in Deutschland und Europa nacheifern sollten: In den USA gibt es keinen vergleichbaren Datenschutz, wie wir ihn zum Beispiel mit der Datenschutzgrundverordnung haben und Unternehmen bekommen fast keine Schranken, in China wiederum nutzt eine autoritäre Regierung KI-Systeme zur vollumfänglichen Überwachung und Bewertung aller Bürger*innen. Wir wollen stattdessen eine Fokussierung auf Gemeinwohlorientierung, Nachhaltigkeit und den Schutz von Menschen mit all ihren Werten und Rechten.

Mit unseren Perspektiven stehen wir in der Kommission manchmal auch allein dar. Vor allem in den Themenfeldern anderer Projektgruppen, wo es um die Nutzung von KI-Systemen in der Wirtschaft geht, steht oft besonders einseitig die Unternehmensperspektive im Vordergrund, während die der Arbeitnehmer untergeordnet ist, und das obwohl KI große Umwälzungen für die Anzahl und Qualifikation von Erwerbstätigen in fast allen Branchen bedeuten kann und ihre Bedürfnisse daher eine wichtige Rolle spielen müssen. Für die weitere Arbeit und auch den Abschlussbericht im Sommer 2020 bedeutet dies für uns voraussichtlich eine Sonderrolle – und für einige Handlungsempfehlungen auch Sondervoten, die wir nun für den Zwischenbericht bereits vorbereiten. Mit einem Sondervotum kann eine Fraktion eine abweichende Position zum Abschlussbericht erklären, der von der Mehrheit der Kommission verabschiedet wird.