Frage: Welche Anweisungen und Verfahren gibt es im Rahmen des zweiten Teilprojekts der Deutschen Bahn AG und der Bundespolizei zum Test intelligenter Videoanalyse-Technik am Berliner Südkreuz bei Fällen, in denen die zu testende Software Situationen erkennt, die nicht durch eigens eingesetzte Darsteller erzeugt werden (z. B. von Dritten abgestellte Gegenstände, gestürzte unbeteiligte Personen), und wie werden solche nicht gestellten Situationen in der Auswertung des Teilprojekts berücksichtigt? (BT-Drucksache 19/11515)

Antwort des Staatssekretärs Dr. Helmut Teichmann vom 10. Juli 2019:

Im Rahmen des zweiten Teilprojekts zum Test intelligenter Videoanalyse-Technik am Bahnhof Berlin Südkreuz erfolgt die Erprobung parallel zum Realbetrieb, ohne Einbindung in bestehende Prozesse. Es werden hierzu aktuell vier Kameras, in vier zuvor festgelegten und durch auffällig blaue Markierungen gekennzeichneten Testbereichen, parallel betrieben. Die Szenarien werden durch die Bundespolizei durchgehend überwacht. Eine Verwechslung mit Situationen, die nicht durch eigens eingesetzte Darsteller erzeugt werden, ist aufgrund des Testaufbaus ausgeschlossen.

Parlamentarische Initiativen von Petra Sitte, Anke Domscheit-Berg, Simone Barrientos, Birke Bull-Bischoff, Nicole Gohlke, Jan Korte, Sören Pellmann, 02. Mai 2019

02.05.19 – Kleine Anfrage – Drucksache Nr. 19/9707

Darstellung der regional sehr unausgeglichenen Verteilung der Forschung im Bereich künstliche Intelligenz und maschinelles Lernen in der außeruniversitären Forschungslandschaft. Die Konzentration dieser Forschung auf wenige Regionen wird zu einer weiteren Spaltung zwischen Aglomerationsräumen und übrigen Gebiet. Dabei ist vor allem die Spaltung zwischen Ost- und Westdeutschland zu berücksichtigen.

Herunterladen als PDF

Hierzu liegt eine Antwort der Bundesregierung als Drucksache Nr. 19/10511 vor. Antwort als PDF herunterladen

Seit September 2018 tagt die vom Bundestag eingesetzte Enquete-Kommission Künstliche Intelligenz, deren Mitglied ich bin. Sie befaßt sich mit der Entstehung und dem Einsatz selbstlernender Systeme, also etwa mit Software, deren Algorithmen sich bei der Lösung eines Problems selbst verbessern können – bis hin zu Software, die allein Lösungen für Probleme findet und ohne Beteiligung von Menschen Entscheidungen trifft- zum Beispiel bei der Steuerung vollständig autonomer Fahrzeuge. Es stellen sich dabei sehr viele vor allem auch ethische Fragen, daher haben wir als Linksfraktion im Bundestag die Einsetzung der Enquete Kommission begrüßt. Unsere Obfrau ist Petra Sitte, weitere Mitglieder sind Jessica Tatti und Achim Kessler. Wir haben die Themen unter uns verteilt, denn jede*r hat so seine Spezialgebiete und vieles an der Arbeit findet parallel statt – man muss sich also in Untergruppen teilen. Dazu passend haben wir unsere Sachverständigen ausgewählt: Prof. Dr. Katharina Zweig ist nicht nur Professorin für Informatik an der TU Kaiserslautern und dabei in der kritischen Algorithmus- und Data-Science-Forschung tätig, sondern gründete dort auch den bundesweit ersten Studiengang „Sozioinformatik“, der sich mit den gesellschaftlichen Folgen der Digitalisierung auseinandersetzt. Bekannt ist sie auch als Gründerin der NGO Algorithmwatch. Mit ihr an Bord ist Dr. Florian Butollo, der am Weizenbaum Institut für die vernetzte Gesellschaft die Forschungsgruppe „Arbeit in hoch automatisierten digital-hybriden Prozessen“ leitet.

Gruppenfoto aus dem September 2018 von der konstituierenden Sitzung der Enquete-Kommission


Das Ziel der Enquete ist, Handlungsempfehlungen hinsichtlich der Förderung und Regulierung des Einsatzes künstlicher Intelligenz für die Bundesregierung zu entwickeln. Für einige Fraktionen scheint es dabei hauptsächlich darum zu gehen, wie Deutschland eine globale Spitzenposition bei dieser Technologie erreichen kann, um der Wirtschaft gute Rahmenbedingungen in einem neuen Wachstumsmarkt zu schaffen.

Unser Fokus als Fraktion in der Kommission ist allerdings anders, uns geht es um eine Weichenstellung, die sich an Grundrechten und Werten orientiert und die den gemeinwohlorientierten Einsatz von KI in den Vordergrund stellt – und nicht die Maximierung von Gewinnen für einzelne Unternehmen. Wir wollen Transparenz und Offenheit aber auch die Beteiligung von Bürgerinnen und Bürgern bei der Entwicklung von Schwerpunkten für den Einsatz von künstlicher Intelligenz und bei der Grenzziehung, also bei der Entscheidung, wo wir überhaupt einen Einsatz von künstlicher Intelligenz wollen und wo nicht.

Die Enquete Kommission beschäftigt sich seit einer gemeinsamen Einführungsphase in sechs Projektgruppen mit jeweils einen Themenblock. Seit Februar geht es in den ersten drei Projektgruppen um die Bereiche Wirtschaft, Staat und Gesundheit. Danach schließen sich im Herbst drei Projektgruppen mit den Themenfeldern Forschung /Bildung / Arbeit sowie Mobilität und Medien/Demokratie an. Aber nicht alle Arbeit findet nur noch in den Projektgruppen statt, die gesamte Enquete Kommission,19 MdB und 19 Sachverstände, trifft sich weiterhin jeden ersten Montag im Monat, z.B. für gemeinsame Anhörungen von Sachverständigen zu übergeordneten Themen oder um Zwischenstände aus den Projektgruppen untereinander auszutauschen.

Ich bin Leiterin der Projektgruppe KI in Staat und Verwaltung, plane und moderiere unsere Arbeitsgruppensitzungen, die mehrmals monatlich stattfinden. Auch dorthin laden wir Fachleute ein, die ebenso wie Mitglieder der Projektgruppe mit entsprechenden Fachkenntnissen Vorträge zu spezifischen Themen halten. Dazu gehört vor allem erst einmal zu sammeln, was der jeweilige Sachstand ist, welche guten und schlechten Erfahrungen es bei Anwendungen im In- und Ausland gibt, welche Chancen oder Risiken sich daraus ergeben. Gemeinsam versuchen wir auf dieser Wissensbasis Handlungsempfehlungen und Regulierungsbedarfe zu erarbeiten.

In „meiner“ Projektgruppe „KI und Staat“ bearbeiten wir uns eine ganze Bandbreite von Themen. Sie beginnt mit dem KI Einsatz innerhalb von Behörden für interne Prozesse z.B. Die Erkennung verdächtiger Muster in den Steuerdaten von Finanzämtern, um Steuerhinterziehungen besser zu entdecken oder die automatische Sortierung von Eingangspost durch intelligente Texterkennung mit selbst lernender Software. Wir befassen uns auch mit dem Einsatz von KI durch staatliche Stellen, die sich nach extern richtet, also zum Beispiel Gesichtserkennungssysteme zur Gefahrenabwehr aber auch mit der Nutzung von Chatbots, die bei der Antragstellung und dem Ausfüllen von Formularen hilfreich sein können oder als „City-Bot“ wie der Wienbot viele verschiedene Fragen beantworten können, rund um die Uhr, und mit denen man in natürlicher Sprache z.B. per Messenger kommunizieren kann. Sogenannte „Robo Lawyers“ (Roboter Anwälte) können helfen, Rechtsansprüche und Widersprüche gegenüber dem Staat automatisiert und ohne teure Anwälte durchzusetzen. Für viele Anspruchsberechtigte sind Antragshürden nach wie vor zu hoch – gerade bei den Bedürftigsten sind Anspruchnahmen daher gering. Messenger-basierte Chatbots sind aufgrund natürlicher Sprachverwendung barrierearm, multilingual möglich, erfordern keinen Amtsbesuch und sind immer erreichbar. Hier kann KI konkret und direkt für mehr Teilhabe sorgen.

Meinen Schwerpunkt innerhalb der Gruppe lege ich darauf, den staatlichen Einsatz von KI auf gemeinwohlorientierte Anwendungen zu fokussieren und bei Anwendungen im Bereich der inneren Sicherheit unbedingt jede Erosion der Grundrechte zu verhindern. Nicht alles, was möglich ist, darf auch gemacht werden, hier sind klare rote Linien zu ziehen, beispielsweise darf es keine Massenüberwachung im öffentlichen Raum durch intelligente Kameras geben, die Verdächtige identifizieren sollen. Nach wie vor sind die Fehlerquoten derartiger Systeme so hoch, dass unzählige Unschuldige zu Verdächtigen werden. Ab Mai befasst sich meine Projektgruppe auch mit dem Thema militärische Einsätze, auch hier haben wir von Seiten der Linksfraktion ganz klare rote Linien, denn auch autonome Waffensysteme sind KI-Systeme. Wir streben eine Ächtung aller digitalen Waffensysteme an, ihren Einsatz genauso wie ihre Herstellung und ihren Export. Waffen, die sich ihr Ziel selbst suchen, identifizieren und töten, darf es nicht geben.

Eines der übergreifenden Themen, das alle Projektgruppen der Enquete berührt, ist die Nutzung von Daten und die Abwägung zwischen Datenschutz, Privatsphäre und Nutzbarmachung. Wir wollen öffentliche Daten nutzen und private Daten schützen und nach Wegen suchen, wie man für die Entwicklung gemeinwohlorientierter KI-Anwendungen große Datenbanken für die Nutzung durch die Allgemeinheit verfügbar machen kann. So lange große Datenmengen nur digitalen Großkonzernen zur Verfügung stehen, werden sie Schindluder damit treiben, so wie wir das von den Datenskandalen z.B. von Facebook kennen. Kleinere Unternehmen, vor allem auch nicht-Gewinnorientierte Sozial-Startups haben jedoch ohne Daten zum Trainieren der KI-Systeme keine Chance auf Erfolg. Dazu zählen zum Beispiel Mobilitätsdaten in einer Kommune, die die Entstehung einer gemeinwohlorientierten Alternative zum Mitfahrdienst UBER ermöglichen würden. Denkbar ist für uns dabei unter anderem eine Idee aus unserer Projektgruppe, nicht-personenbezogene Daten zur öffentlichen Daseinsvorsorge zu zählen, um die Entwicklung von KI-Systemen, die dem Gemeinwohl nützen, zu erleichtern und zu beschleunigen. Wir werden diese und weitere Ideen in der Kommission weiterhin diskutieren.

Als Linksfraktion haben wir uns für diese Kommission klare Ziele gesetzt: Wir wollen und können das Wettrennen mit den USA und China nicht unterstützen. Beide Seiten können uns nicht die Vorbilder sein, denen wir in Deutschland und Europa nacheifern sollten: In den USA gibt es keinen vergleichbaren Datenschutz, wie wir ihn zum Beispiel mit der Datenschutzgrundverordnung haben und Unternehmen bekommen fast keine Schranken, in China wiederum nutzt eine autoritäre Regierung KI-Systeme zur vollumfänglichen Überwachung und Bewertung aller Bürger*innen. Wir wollen stattdessen eine Fokussierung auf Gemeinwohlorientierung, Nachhaltigkeit und den Schutz von Menschen mit all ihren Werten und Rechten.

Mit unseren Perspektiven stehen wir in der Kommission manchmal auch allein dar. Vor allem in den Themenfeldern anderer Projektgruppen, wo es um die Nutzung von KI-Systemen in der Wirtschaft geht, steht oft besonders einseitig die Unternehmensperspektive im Vordergrund, während die der Arbeitnehmer untergeordnet ist, und das obwohl KI große Umwälzungen für die Anzahl und Qualifikation von Erwerbstätigen in fast allen Branchen bedeuten kann und ihre Bedürfnisse daher eine wichtige Rolle spielen müssen. Für die weitere Arbeit und auch den Abschlussbericht im Sommer 2020 bedeutet dies für uns voraussichtlich eine Sonderrolle – und für einige Handlungsempfehlungen auch Sondervoten, die wir nun für den Zwischenbericht bereits vorbereiten. Mit einem Sondervotum kann eine Fraktion eine abweichende Position zum Abschlussbericht erklären, der von der Mehrheit der Kommission verabschiedet wird.

Frage: Wie ist der aktuelle Umsetzungsstand der Reallabore, die vom Bundeswirtschaftsministerium angekündigt wurden (KI-Strategie des Bundes, S. 23), und sollen diese auch als Testfeld für gesetzliche Regulierungsvorhaben genutzt werden? (BT-Drucksache 19/8082)

Antwort des Staatssekretärs Dr. Ulrich Nußbaum vom 26. Februar 2019

Das Bundesministerium für Wirtschaft und Energie (BMWi) verfolgt mit Blick auf Reallabore zwei Initiativen: 1. Reallabore als Testräume für Innovation und Regulierung, 2. Reallabore der Energiewende. Zu 1.: Die Initiative zu Reallaboren als Testräume für Innovation und Regulierung dient dazu, die Anforderungen und Potenziale von Reallaboren aufzuarbeiten und deren Nutzung zu stärken. Der Zweck solcher zeitlich und räumlich begrenzten Experimentierräume ist es, die Erprobung von Innovationen zu ermöglichen und gleichzeitig Erfahrungen mit der Regulierung der Innovationen zu sammeln oder bestehende Regulierung auf den Prüfstand zu stellen. Das BMWi hat im Dezember 2018 eine entsprechende Reallabore-Strategie veröffentlicht, die nun in die Umsetzung geht. Insbesondere wurden zum Erfahrungsaustausch bereits eine Interministerielle Arbeitsgruppe und ein Netzwerk zum Thema Reallabore eingerichtet. Unter Einbindung dieser Strukturen wird derzeit auf Basis des Gutachtens „Potenziale und Anforderungen regulatorischer Experimentierräume“ (vgl. auch die Antwort der Bundesregierung zur Kleinen Anfrage der Abgeordneten Dr. Petra Sitte, Birke Bull-Bischoff, Anke Domscheit-Berg, weiterer Abgeordneter und der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/3836) außerdem ein Handbuch erarbeitet, das in Form von Checklisten und Praxisbeispielen wichtige Praxisinformationen zur Einrichtung von Reallaboren liefern soll. Weitere Informationen zur Initiative und das Strategiepapier des BMWi sind unter www.reallabore-bmwi.de verfügbar. Bereits seit Anfang 2017 betreibt das BMWi das Programm „Schaufenster Intelligente Energie – digitale Agenda für die Energiewende“ (SINTEG), in dem auf Basis einer Verordnung nach § 119 des Energiewirtschaftgesetzes den Teilnehmern ausnahmsweise ein ggf. entstehender wirtschaftlicher Nachteil ganz oder teilweise ausgeglichen werden kann, um dadurch Erfahrungen mit technischen und prozeduralen Innovationen für den Betrieb des Stromnetzes bei sehr hohen Anteilen an Stromerzeugung aus erneuerbaren Energien zu gewinnen. Zu 2.: Im Rahmen ihres 7. Energieforschungsprogramms hat die Bundesregierung „Reallabore der Energiewende“ als neue Säule der Energieforschung eingeführt. In klar umrissenen Großvorhaben sollen wesentliche systemische Herausforderungen der Energiewende exemplarisch adressiert werden. Die technologieorientierten Innovationsprojekte sollen demnach Pioniercharakter für die Transformation des Energiesystems haben. Das BMWi hat dazu einen Ideenwettbewerb gestartet und am 11. Februar 2019 einen Förderaufruf veröffentlicht. Die Unterlagen sind zu finden unter: www.energieforschung.de/antragsteller/foerderangebote/ideenwettbewerb_reallabore-der-energiewende.

Die Umsetzungsstrategie Digitalisierung der Bundesregierung ist bloß eine Sammlung von Einzelprojekten ohne roten Faden. Eine Strategie ist sie nicht. Es sind weder Budgets noch Zeitrahmen oder die erwarteten Ziele enthalten. Es ist weiter unklar, wie die Regierung plant, flächendeckend schnelles Internet umzusetzen. Wichtige Themen wie Gemeinwohlorientierung und soziale Innovationen sind erst gar nicht enthalten.

Weiterlesen

Frage: Wie hoch sind die Haushaltsmittel für die mindestens 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden, und aus welchem Haushaltstitel werden sie bereitgestellt? (BT-Drucksache 19/7585)

Antwort des Parlamentarischen Staatssekretärs Dr. Michael Meister vom 6. Februar 2019

Das Gesamtkonzept zur Finanzierung der Strategie Künstliche Intelligenz wird derzeit innerhalb der  Bundesregierung erstellt. Im Bundeshaushalt 2019 stehen im Einzelplan 60 ein Ausgabenansatz in  Höhe von 50 Mio. Euro sowie 450 Mio. Euro Verpflichtungsermächtigungen zur Verstärkung von Maßnahmen zur Förderung der Künstlichen Intelligenz zur Verfügung. Die Mittel sind bis zur Vorlage des abgestimmten Gesamtkonzeptes gesperrt.

Frage: Wie und durch wen werden die Hochschulstandorte und Lehrstühle der mindestens 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden, ausgewählt, um eine regionale und thematische Vielfalt, interdisziplinäres Arbeiten und den Transfer in Gesellschaft und Praxis sicherzustellen?

Frage: Wie ist der Zeitplan für die Besetzung der 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden?

Frage: Wie erfolgte bzw. erfolgt die Kooperation mit den Ländern zur Umsetzung der 100 Professuren aus der KI-Strategie der Bundesregierung? (BT-Drucksache 19/7585)

Antwort des Parlamentarischen Staatssekretärs Dr. Michael Meister vom 6. Februar 2019

Die Bundesregierung wird in Kürze Gespräche mit Ländervertretern sowie einschlägigen  Mittlerorganisationen wie der Alexander-von-Humboldt-Stiftung (AvH) führen. Drei Komponenten sind vorgesehen: die Gewinnung von Expertinnen und Experten aus dem Ausland mit Unterstützung der AvH, der Ausbau der Lehre an den Kompetenzzentren und schließlich ein für alle Hochschulen offenes Professorenprogramm.

Während des 35. Chaos Communication Congress, dem 35c3, habe ich im Dezentrum-Podcast über Künstliche Intelligenz und Automation, Bedingungsloses Grundeinkommen und die Idee eines Sozialen Innovationsfonds gesprochen.

Anhören könnt ihr euch die Folge mit mit dem Player hier auf der Website, bei iTunes oder Spotify.

Weiterlesen

Parlamentarische Initiativen von Andrej Hunko, Heike Hänsel, Anke Domscheit-Berg, Niema Movassat, Thomas Nord, Petra Pau, Tobias Pflüger, Martina Renner, Kirsten Tackmann, Alexander Ulrich, Kathrin Vogler, 17. Januar 2019

17.01.19 – Kleine Anfrage – Drucksache Nr. 19/6981

Das Verteidigungsministerium testet Software, um durch semantische Analyse großer Datenmengen die Lagedarstellung von krisenhaften Entwicklungen zu unterstützen. Die Software gibt „prädiktive Hinweise“ und greift auf Ereignisdatenbanken politischer Proteste zu. Neben der „Krisenfrüherkennung“ werden Informationen aus Sozialen Medien zum Aufspüren von „Radikalisierung“ genutzt. Eine Software soll „radikale Inhalte”, „verdächtige Nachrichten” und “verdeckte „Radikalisierungsprozesse” erkennen.

Herunterladen als PDF

Hierzu liegt eine Antwort der Bundesregierung als Drucksache Nr. 19/7604 vor. Antwort als PDF herunterladen

Künstliche Intelligenz (KI) kann helfen, Krebserkrankungen schneller zu diagnostizieren oder die Zahl von Verkehrsopfern stark zu reduzieren. Sie kann aber auch in autonomen Waffensystemen oder zur Manipulation von Wahlen und Meinungen eingesetzt werden. Die Linksfraktion fordert den friedlichen Einsatz von KI und eine Ächtung autonomer Waffensysteme, klare Regeln, um staatlichen Missbrauch und Diskriminierung zu verhindern und einen Fonds für soziale Innovationen, die den Menschen dienen – für KI Anwendungen im Bereich der Bildung, Gesundheit, Umwelt, Mobilität und Nachhaltigkeit.