Beiträge

Frage: Wie ist der Planungsstand zur Entwicklung der polizeilichen KI-Strategie, und wurden neben dem Unternehmen msg systems AG weitere Firmen zur Entwicklung der polizeilichen KI-Strategie eingebunden (vgl. Bundestagsdrucksache 19/13866)? (BT-Drucksache 19/23047)

Antwort des Parlamentarischen Staatssekretärs Dr. Günter Krings vom 2. Oktober 2020
Zur Konkretisierung der Strategie Künstliche Intelligenz (KI) der Bundesregierung im Hinblick auf die innere Sicherheit (Kapitel 3.7) wurde im November 2019 mit der Entwicklung einer polizeilichen KI-Strategie begonnen. Die Strategieentwicklung befindet sich aktuell in der Phase der Finalisierung. Die Veröffentlichung der polizeilichen KI-Strategie wird zu Ende 2020/Anfang 2021 angestrebt.
Das Unternehmen msg systems AG ist Generalunternehmer einer Rahmenvereinbarung des Bundes. Die adesso AG ist als Unterauftragnehmer dieser Rahmenvereinbarung und unterstützt das Bundesministerium des Innern, für Bau und Heimat bei der Erstellung der polizeilichen KI-Strategie. Für den Entwicklungsprozess bedarf es der Einbindung weiterer externer und interner Experten, die innerhalb der unterschiedlichen Handlungsstränge durch das Einbringen ihrer konkreten Fachexpertisen einen wesentlichen Beitrag leisten. Neben den externen Experten von verschiedensten Hochschulen, die für ihre Expertise eine Aufwandsentschädigung erhielten, bestanden/bestehen vertragliche Vereinbarungen mit Fraunhofer FOKUS, der Schütze AG und PD – Berater der öffentlichen Hand GmbH.

Frage: Sind an dem Pilotprojekt der Deutschen Bahn AG in Stuttgart zur videobasierten Fahrgaststrom-Überwachung das Bundesministerium des Innern, für Bau und Heimat oder seine nachgelagerten Behörden an der Entwicklung, Planung, Umsetzung oder Finanzierung beteiligt, und wer hat Zugriff auf die erhobenen Daten vor der Anonymisierung durch das Software-Unternehmen Brighter AI (www.handelsblatt.com/technik/forschung-innovation/pilotprojekt-in-stuttgart-mit-kameras-gegen-corona-deutsche-bahn-will-passagierstroeme-bewusster-lanken/25774872.html)? (BT-Drucksache 19/19240)

Antwort des Parlamentarischen Staatssekretärs Enak Ferlemann vom 13. Mai 2020

Das Bundesministerium des Innern, für Bau und Heimat oder dessen Geschäftsbereichsbehörden sind an dem genannten Projekt nicht beteiligt.
Der Bundesregierung liegen keine eigenen Erkenntnisse hinsichtlich des Zugriffs auf die erhobenen Daten vor der Anonymisierung durch das Software-Unternehmen Brighter AI vor.

Am 27. September fand die erste Sitzung der frisch konstituierten Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ statt. Ich gehöre dieser Kommission als stellvertretendes Mitglied an und werde mich zu den ethischen Fragen rund um Künstliche Intelligenz einbringen; KI hat das Potential, die Gesellschaft als ganzes und unsere Demokratie zu verändern, sowohl in brachialer Weise mittels autonomer Waffensysteme, die selbständig Feinde auswählen und bekämpfen als auch subtiler in Form von Kredigwürdigkeitsprüfungen oder Wählerbeeinflussung.

Auf Vorschlag der Linksfraktion gehören der Enquete-Kommission zwei hochkarätige Sachverständige an: Prof. Dr. Katharina Zweig leitet an der TU Kaiserslautern das Algorithm Accountability Lab; Dr. Florian Butollo forscht am Weizenbaum Institut für die vernetzte Gesellschaft zum Thema Arbeit in hochautomatisierten digital-hybriden Prozessen. Insgesamt gehören der Kommission 19 Sachverständige, 19 Abgeordnete als Vollmitglieder und 19 als Stellvertreter*innen an.

Am kommenden Montag findet eine erste Klausursitzung der Enquete statt. Die Sitzungen werden grundsätzlich nicht-öffentlich stattfinden. Ein entsprechender Änderungsantrag der Grünen für öffentliche, gestreamte Sitzungen, der von der Linksfraktion unterstützt worden war, scheiterte am Willen der Großen Koalition.