Beiträge

Heute stellte die Dathenethikkomission ihr Abschlussgutachten im Ausschuss Digitale Agenda vor. Das wichtigste daraus erzähle ich euch im Video.

Weiterlesen

Frage: Nach welchen Maßgaben bzw. methodischen Vorgaben findet jeweils die Evaluation des (auch geplanten) Einsatzes Künstlicher Intelligenz in der öffentlichen Verwaltung im Geschäfts- und Zuständigkeitsbereich der Bundesregierung statt, und an welchen dieser Evaluationen sind Soziologinnen und Soziologen, Verhaltensforscherinnen und Verhaltensforscher beteiligt? (BT-Drucksache 19/10765)

Antwort des Staatssekretärs Andreas Feicht vom 4. Juni 2019:

Die Bundesregierung versteht die Frage dahingehend, dass nicht nach allgemeinen Evaluationskriterien (wie z. B. Wirtschaftlichkeit) gefragt wird, sondern nach für Technologien Künstlicher Intelligenz spezifischen Maßgaben und Vorgaben. Insofern bestehen keine ausdrücklichen Maßgaben oder methodischen Vorgaben für den Einsatz von KI-Technologien im Geschäfts- und Zuständigkeitsbereich der Bundesregierung. Aus der Strategie Künstliche Intelligenz und insbesondere den mit dieser gesetzten politischen Zielen folgen einige Rahmenbedingungen für den Einsatz von KI-Technologien. Generell bieten KI-Systeme erhebliche Chancen (z. B. für die Forschung, die Innovationsfähigkeit der Wirtschaft, die Optimierung von Produktions- und Verwaltungsprozessen und damit einhergehend eine Entlastung von Ressourcen und Verbesserung von Ergebnissen), bergen aber auch Risiken (z. B. für die individuelle Handlungsfreiheit, für die informationelle Selbstbestimmung und den Privatsphärenschutz sowie für die Teilhabe und Chancengleichheit einzelner Menschen oder gesellschaftlicher Gruppen). Die von der Bundesregierung eingesetzte Datenethikkommission soll insbesondere Handlungsempfehlungen für die Nutzung von Algorithmen-basierten Entscheidungssystemen und Anwendungen Künstlicher Intelligenz erarbeiten. Die Bundesregierung wird diese Handlungsempfehlungen prüfen. Soweit es sich innerhalb der zur Beantwortung der Frage zur Verfügung stehenden Zeit im Rahmen einer Ressortabfrage ermitteln ließ, sind Soziologinnen und Soziologen sowie Verhaltensforscherinnen und Verhaltensforscher nicht explizit an Evaluationen beteiligt.

Seit September 2018 tagt die vom Bundestag eingesetzte Enquete-Kommission Künstliche Intelligenz, deren Mitglied ich bin. Sie befaßt sich mit der Entstehung und dem Einsatz selbstlernender Systeme, also etwa mit Software, deren Algorithmen sich bei der Lösung eines Problems selbst verbessern können – bis hin zu Software, die allein Lösungen für Probleme findet und ohne Beteiligung von Menschen Entscheidungen trifft- zum Beispiel bei der Steuerung vollständig autonomer Fahrzeuge. Es stellen sich dabei sehr viele vor allem auch ethische Fragen, daher haben wir als Linksfraktion im Bundestag die Einsetzung der Enquete Kommission begrüßt. Unsere Obfrau ist Petra Sitte, weitere Mitglieder sind Jessica Tatti und Achim Kessler. Wir haben die Themen unter uns verteilt, denn jede*r hat so seine Spezialgebiete und vieles an der Arbeit findet parallel statt – man muss sich also in Untergruppen teilen. Dazu passend haben wir unsere Sachverständigen ausgewählt: Prof. Dr. Katharina Zweig ist nicht nur Professorin für Informatik an der TU Kaiserslautern und dabei in der kritischen Algorithmus- und Data-Science-Forschung tätig, sondern gründete dort auch den bundesweit ersten Studiengang „Sozioinformatik“, der sich mit den gesellschaftlichen Folgen der Digitalisierung auseinandersetzt. Bekannt ist sie auch als Gründerin der NGO Algorithmwatch. Mit ihr an Bord ist Dr. Florian Butollo, der am Weizenbaum Institut für die vernetzte Gesellschaft die Forschungsgruppe „Arbeit in hoch automatisierten digital-hybriden Prozessen“ leitet.

Gruppenfoto aus dem September 2018 von der konstituierenden Sitzung der Enquete-Kommission


Das Ziel der Enquete ist, Handlungsempfehlungen hinsichtlich der Förderung und Regulierung des Einsatzes künstlicher Intelligenz für die Bundesregierung zu entwickeln. Für einige Fraktionen scheint es dabei hauptsächlich darum zu gehen, wie Deutschland eine globale Spitzenposition bei dieser Technologie erreichen kann, um der Wirtschaft gute Rahmenbedingungen in einem neuen Wachstumsmarkt zu schaffen.

Unser Fokus als Fraktion in der Kommission ist allerdings anders, uns geht es um eine Weichenstellung, die sich an Grundrechten und Werten orientiert und die den gemeinwohlorientierten Einsatz von KI in den Vordergrund stellt – und nicht die Maximierung von Gewinnen für einzelne Unternehmen. Wir wollen Transparenz und Offenheit aber auch die Beteiligung von Bürgerinnen und Bürgern bei der Entwicklung von Schwerpunkten für den Einsatz von künstlicher Intelligenz und bei der Grenzziehung, also bei der Entscheidung, wo wir überhaupt einen Einsatz von künstlicher Intelligenz wollen und wo nicht.

Die Enquete Kommission beschäftigt sich seit einer gemeinsamen Einführungsphase in sechs Projektgruppen mit jeweils einen Themenblock. Seit Februar geht es in den ersten drei Projektgruppen um die Bereiche Wirtschaft, Staat und Gesundheit. Danach schließen sich im Herbst drei Projektgruppen mit den Themenfeldern Forschung /Bildung / Arbeit sowie Mobilität und Medien/Demokratie an. Aber nicht alle Arbeit findet nur noch in den Projektgruppen statt, die gesamte Enquete Kommission,19 MdB und 19 Sachverstände, trifft sich weiterhin jeden ersten Montag im Monat, z.B. für gemeinsame Anhörungen von Sachverständigen zu übergeordneten Themen oder um Zwischenstände aus den Projektgruppen untereinander auszutauschen.

Ich bin Leiterin der Projektgruppe KI in Staat und Verwaltung, plane und moderiere unsere Arbeitsgruppensitzungen, die mehrmals monatlich stattfinden. Auch dorthin laden wir Fachleute ein, die ebenso wie Mitglieder der Projektgruppe mit entsprechenden Fachkenntnissen Vorträge zu spezifischen Themen halten. Dazu gehört vor allem erst einmal zu sammeln, was der jeweilige Sachstand ist, welche guten und schlechten Erfahrungen es bei Anwendungen im In- und Ausland gibt, welche Chancen oder Risiken sich daraus ergeben. Gemeinsam versuchen wir auf dieser Wissensbasis Handlungsempfehlungen und Regulierungsbedarfe zu erarbeiten.

In „meiner“ Projektgruppe „KI und Staat“ bearbeiten wir uns eine ganze Bandbreite von Themen. Sie beginnt mit dem KI Einsatz innerhalb von Behörden für interne Prozesse z.B. Die Erkennung verdächtiger Muster in den Steuerdaten von Finanzämtern, um Steuerhinterziehungen besser zu entdecken oder die automatische Sortierung von Eingangspost durch intelligente Texterkennung mit selbst lernender Software. Wir befassen uns auch mit dem Einsatz von KI durch staatliche Stellen, die sich nach extern richtet, also zum Beispiel Gesichtserkennungssysteme zur Gefahrenabwehr aber auch mit der Nutzung von Chatbots, die bei der Antragstellung und dem Ausfüllen von Formularen hilfreich sein können oder als „City-Bot“ wie der Wienbot viele verschiedene Fragen beantworten können, rund um die Uhr, und mit denen man in natürlicher Sprache z.B. per Messenger kommunizieren kann. Sogenannte „Robo Lawyers“ (Roboter Anwälte) können helfen, Rechtsansprüche und Widersprüche gegenüber dem Staat automatisiert und ohne teure Anwälte durchzusetzen. Für viele Anspruchsberechtigte sind Antragshürden nach wie vor zu hoch – gerade bei den Bedürftigsten sind Anspruchnahmen daher gering. Messenger-basierte Chatbots sind aufgrund natürlicher Sprachverwendung barrierearm, multilingual möglich, erfordern keinen Amtsbesuch und sind immer erreichbar. Hier kann KI konkret und direkt für mehr Teilhabe sorgen.

Meinen Schwerpunkt innerhalb der Gruppe lege ich darauf, den staatlichen Einsatz von KI auf gemeinwohlorientierte Anwendungen zu fokussieren und bei Anwendungen im Bereich der inneren Sicherheit unbedingt jede Erosion der Grundrechte zu verhindern. Nicht alles, was möglich ist, darf auch gemacht werden, hier sind klare rote Linien zu ziehen, beispielsweise darf es keine Massenüberwachung im öffentlichen Raum durch intelligente Kameras geben, die Verdächtige identifizieren sollen. Nach wie vor sind die Fehlerquoten derartiger Systeme so hoch, dass unzählige Unschuldige zu Verdächtigen werden. Ab Mai befasst sich meine Projektgruppe auch mit dem Thema militärische Einsätze, auch hier haben wir von Seiten der Linksfraktion ganz klare rote Linien, denn auch autonome Waffensysteme sind KI-Systeme. Wir streben eine Ächtung aller digitalen Waffensysteme an, ihren Einsatz genauso wie ihre Herstellung und ihren Export. Waffen, die sich ihr Ziel selbst suchen, identifizieren und töten, darf es nicht geben.

Eines der übergreifenden Themen, das alle Projektgruppen der Enquete berührt, ist die Nutzung von Daten und die Abwägung zwischen Datenschutz, Privatsphäre und Nutzbarmachung. Wir wollen öffentliche Daten nutzen und private Daten schützen und nach Wegen suchen, wie man für die Entwicklung gemeinwohlorientierter KI-Anwendungen große Datenbanken für die Nutzung durch die Allgemeinheit verfügbar machen kann. So lange große Datenmengen nur digitalen Großkonzernen zur Verfügung stehen, werden sie Schindluder damit treiben, so wie wir das von den Datenskandalen z.B. von Facebook kennen. Kleinere Unternehmen, vor allem auch nicht-Gewinnorientierte Sozial-Startups haben jedoch ohne Daten zum Trainieren der KI-Systeme keine Chance auf Erfolg. Dazu zählen zum Beispiel Mobilitätsdaten in einer Kommune, die die Entstehung einer gemeinwohlorientierten Alternative zum Mitfahrdienst UBER ermöglichen würden. Denkbar ist für uns dabei unter anderem eine Idee aus unserer Projektgruppe, nicht-personenbezogene Daten zur öffentlichen Daseinsvorsorge zu zählen, um die Entwicklung von KI-Systemen, die dem Gemeinwohl nützen, zu erleichtern und zu beschleunigen. Wir werden diese und weitere Ideen in der Kommission weiterhin diskutieren.

Als Linksfraktion haben wir uns für diese Kommission klare Ziele gesetzt: Wir wollen und können das Wettrennen mit den USA und China nicht unterstützen. Beide Seiten können uns nicht die Vorbilder sein, denen wir in Deutschland und Europa nacheifern sollten: In den USA gibt es keinen vergleichbaren Datenschutz, wie wir ihn zum Beispiel mit der Datenschutzgrundverordnung haben und Unternehmen bekommen fast keine Schranken, in China wiederum nutzt eine autoritäre Regierung KI-Systeme zur vollumfänglichen Überwachung und Bewertung aller Bürger*innen. Wir wollen stattdessen eine Fokussierung auf Gemeinwohlorientierung, Nachhaltigkeit und den Schutz von Menschen mit all ihren Werten und Rechten.

Mit unseren Perspektiven stehen wir in der Kommission manchmal auch allein dar. Vor allem in den Themenfeldern anderer Projektgruppen, wo es um die Nutzung von KI-Systemen in der Wirtschaft geht, steht oft besonders einseitig die Unternehmensperspektive im Vordergrund, während die der Arbeitnehmer untergeordnet ist, und das obwohl KI große Umwälzungen für die Anzahl und Qualifikation von Erwerbstätigen in fast allen Branchen bedeuten kann und ihre Bedürfnisse daher eine wichtige Rolle spielen müssen. Für die weitere Arbeit und auch den Abschlussbericht im Sommer 2020 bedeutet dies für uns voraussichtlich eine Sonderrolle – und für einige Handlungsempfehlungen auch Sondervoten, die wir nun für den Zwischenbericht bereits vorbereiten. Mit einem Sondervotum kann eine Fraktion eine abweichende Position zum Abschlussbericht erklären, der von der Mehrheit der Kommission verabschiedet wird.

Parlamentarische Initiativen von Thomas Lutze, Ingrid Remmers, Jörg Cezanne, Fabio De Masi, Anke Domscheit-Berg, Klaus Ernst, Brigitte Freihold, Kerstin Kassner, Michael Leutert, Pascal Meiser, Bernd Riexinger, Petra Sitte, Alexander Ulrich, Andreas Wagner, Hubertus Zdebel, 25. März 2019

25.03.19 – Kleine Anfrage – Drucksache Nr. 19/8525

Kraftfahrzeuge mit hoch- oder vollautomatisierter Fahrfunktion übernehmen im alltäglichen Betrieb Fahrmanöver für Autofahrende. Die Anfrage verfolgt das Ziel, einen Überblick über die aktuelle Lage bei der Datenverarbeitung dieser Fahrzeuge zu gewinnen. Dabei interessiert uns vor allem, wer wie auf welche Daten Zugriff hat sowie ob und wie die Datenverarbeitung dieser Fahrzeuge überprüft wird. Hintergrund dieser Fragen sind mögliche Transparenz- und Sicherheitsdefizite in der aktuellen Situation.

Herunterladen als PDF

Hierzu liegt eine Antwort der Bundesregierung als Drucksache Nr. 19/9544 vor. Antwort als PDF herunterladen

Die Umsetzungsstrategie Digitalisierung der Bundesregierung ist bloß eine Sammlung von Einzelprojekten ohne roten Faden. Eine Strategie ist sie nicht. Es sind weder Budgets noch Zeitrahmen oder die erwarteten Ziele enthalten. Es ist weiter unklar, wie die Regierung plant, flächendeckend schnelles Internet umzusetzen. Wichtige Themen wie Gemeinwohlorientierung und soziale Innovationen sind erst gar nicht enthalten.

Weiterlesen

Frage: Wie hoch sind die Haushaltsmittel für die mindestens 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden, und aus welchem Haushaltstitel werden sie bereitgestellt? (BT-Drucksache 19/7585)

Antwort des Parlamentarischen Staatssekretärs Dr. Michael Meister vom 6. Februar 2019

Das Gesamtkonzept zur Finanzierung der Strategie Künstliche Intelligenz wird derzeit innerhalb der  Bundesregierung erstellt. Im Bundeshaushalt 2019 stehen im Einzelplan 60 ein Ausgabenansatz in  Höhe von 50 Mio. Euro sowie 450 Mio. Euro Verpflichtungsermächtigungen zur Verstärkung von Maßnahmen zur Förderung der Künstlichen Intelligenz zur Verfügung. Die Mittel sind bis zur Vorlage des abgestimmten Gesamtkonzeptes gesperrt.

Frage: Wie und durch wen werden die Hochschulstandorte und Lehrstühle der mindestens 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden, ausgewählt, um eine regionale und thematische Vielfalt, interdisziplinäres Arbeiten und den Transfer in Gesellschaft und Praxis sicherzustellen?

Frage: Wie ist der Zeitplan für die Besetzung der 100 Professuren, die in der KI-Strategie der Bundesregierung erwähnt werden?

Frage: Wie erfolgte bzw. erfolgt die Kooperation mit den Ländern zur Umsetzung der 100 Professuren aus der KI-Strategie der Bundesregierung? (BT-Drucksache 19/7585)

Antwort des Parlamentarischen Staatssekretärs Dr. Michael Meister vom 6. Februar 2019

Die Bundesregierung wird in Kürze Gespräche mit Ländervertretern sowie einschlägigen  Mittlerorganisationen wie der Alexander-von-Humboldt-Stiftung (AvH) führen. Drei Komponenten sind vorgesehen: die Gewinnung von Expertinnen und Experten aus dem Ausland mit Unterstützung der AvH, der Ausbau der Lehre an den Kompetenzzentren und schließlich ein für alle Hochschulen offenes Professorenprogramm.

Während des 35. Chaos Communication Congress, dem 35c3, habe ich im Dezentrum-Podcast über Künstliche Intelligenz und Automation, Bedingungsloses Grundeinkommen und die Idee eines Sozialen Innovationsfonds gesprochen.

Anhören könnt ihr euch die Folge mit mit dem Player hier auf der Website, bei iTunes oder Spotify.

Weiterlesen

Künstliche Intelligenz (KI) kann helfen, Krebserkrankungen schneller zu diagnostizieren oder die Zahl von Verkehrsopfern stark zu reduzieren. Sie kann aber auch in autonomen Waffensystemen oder zur Manipulation von Wahlen und Meinungen eingesetzt werden. Die Linksfraktion fordert den friedlichen Einsatz von KI und eine Ächtung autonomer Waffensysteme, klare Regeln, um staatlichen Missbrauch und Diskriminierung zu verhindern und einen Fonds für soziale Innovationen, die den Menschen dienen – für KI Anwendungen im Bereich der Bildung, Gesundheit, Umwelt, Mobilität und Nachhaltigkeit.

Am 27. September fand die erste Sitzung der frisch konstituierten Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ statt. Ich gehöre dieser Kommission als stellvertretendes Mitglied an und werde mich zu den ethischen Fragen rund um Künstliche Intelligenz einbringen; KI hat das Potential, die Gesellschaft als ganzes und unsere Demokratie zu verändern, sowohl in brachialer Weise mittels autonomer Waffensysteme, die selbständig Feinde auswählen und bekämpfen als auch subtiler in Form von Kredigwürdigkeitsprüfungen oder Wählerbeeinflussung.

Auf Vorschlag der Linksfraktion gehören der Enquete-Kommission zwei hochkarätige Sachverständige an: Prof. Dr. Katharina Zweig leitet an der TU Kaiserslautern das Algorithm Accountability Lab; Dr. Florian Butollo forscht am Weizenbaum Institut für die vernetzte Gesellschaft zum Thema Arbeit in hochautomatisierten digital-hybriden Prozessen. Insgesamt gehören der Kommission 19 Sachverständige, 19 Abgeordnete als Vollmitglieder und 19 als Stellvertreter*innen an.

Am kommenden Montag findet eine erste Klausursitzung der Enquete statt. Die Sitzungen werden grundsätzlich nicht-öffentlich stattfinden. Ein entsprechender Änderungsantrag der Grünen für öffentliche, gestreamte Sitzungen, der von der Linksfraktion unterstützt worden war, scheiterte am Willen der Großen Koalition.