Beiträge

05. Juni 2023

Meine Fragen:

1.: Wofür wurden die bisherigen Haushaltsmittel (siehe Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 20/6862) für die 3 Vorhaben Beratungs- und Evaluierungszentrum für Künstliche Intelligenz, BEKI (1,1 Mio €); KI-Kompetenzzentrum (23,5 Mio €) und Algorithmenstelle für Behörden und Organisationen mit Sicherheitsaufgaben (2,77 Mio €) jeweils konkret verausgabt (bitte nach Ausgaben, Jahr und Vorhaben aufschlüsseln) und was ist der jeweils konkrete Zeitplan für den Aufbau dieser drei Einrichtungen?

2.: Was ist der konkrete Zweck der in der Antwort der Bundesregierung auf die Kleine Anfrage der Linksfraktion in Drs. 20/6862 genannten drei Vorhaben/Stellen: Beratungs- und Evaluierungszentrum für Künstliche Intelligenz, BEKI; KI-Kompetenzzentrum und Algorithmenstelle für Behörden und Organisationen mit Sicherheitsaufgaben und in welcher Organisationsform sollen diese Vorhaben/Stellen jeweils umgesetzt werden (bitte auch jeweils die Gesamtstellenanzahl angeben)?

Antwort des Parlamentarischen Staatssekretärs Johann Saathoff:

Zu 1.:
Die Überlegungen zum Beratungs- und Evaluierungszentrum für Künstliche Intelligenz (BEKI) sind weiter vorangeschritten, die Abstimmungen innerhalb der Bundesregierung dauern noch an. Bereits in der aktuellen Phase der Umsetzungsvorbereitung, die in 2023 abgeschlossen werden soll, ist die Pilotierung erster Angebote des BEKI vorgesehen.

Die Bundesregierung hat die Überlegungen zum Aufbau des Projektes Pilotierung eines Künstliche Intelligenz-Bewertungsvorgehens und Konzeption einer Algorithmenstelle für Behörden und Organisationen mit Sicherheitsaufgaben (PABOS) noch nicht abgeschlossen. Daher besteht noch kein endgültiger Zeitplan.

Das Kompetenzzentrum Künstliche Intelligenz (jetzt KI-Kompetenzcenter der Bundesverwaltung, kurz „KI-KC“), wird unmittelbar nach Vertragsschluss mit der Bundesdruckerei eröffnet. Die Vertragsunterzeichnung ist für Anfang Juni 2023 vorgesehen. Der Aufbau des KI-KC skaliert anschließend zur Anzahl der entsprechend des Konzepts umgesetzten Projekte in Form von Proof-of-Values (PoVs) über die Gesamtlaufzeit des Konjunkturpaketes.

Die von den in der Fragestellung genannten Haushaltsmitteln bereits vorgenommenen Ausgaben können der nachfolgenden Tabelle entnommen werden.

Zu 2.:
Die Planung für den Aufbau des BEKI für den Bereich der öffentlichen nicht sicherheitsbezogenen Verwaltung ist weiterentwickelt worden, der Prozess ist aber noch nicht abgeschlossen. Zweck des BEKI ist es, die öffentliche Verwaltung für den kompetenten und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) weiter zu ertüchtigen. Das BEKI beabsichtigt dabei, die öffentliche Verwaltung auf rechtlicher, ethischer und technischer Ebene hinsichtlich der verantwortungsvollen Nutzung von KI zu beraten, die Vernetzung des öffentlichen Sektors weiter zu optimieren und zu koordinieren und den Kompetenzaufbau für die öffentliche Verwaltung zu unterstützen. Derzeit ist die Einrichtung des BEKI in der Startphase als „virtuelle“ Organisationsform geplant.

Hierdurch wird ausdrücklich das Ziel verfolgt, bereits bestehende, etablierte Strukturen und Formate einzubeziehen, auf gewonnen Erfahrungen aufzubauen und bestehende Strukturen durch koordinative Unterstützung des BEKI zu stärken. Die diesbezügliche Abstimmung innerhalb der Bundesregierung zur Organisationsform und zu damit verbundenen Ressourcen ist gleichwohl noch nicht abgeschlossen.

Der Zweck der im Rahmen des Projekts PABOS ist, die Sicherheitsbehörden des Bundes im Themenfeld qualitätsgesicherte KI zu unterstützen. Die Bundesregierung hat die Überlegungen zum Aufbau des das BEKI für den Sicherheitsbereich ergänzenden Vorhabens PABOS noch nicht abgeschlossen, dies betrifft insoweit auch die Frage nach etwaigen Stellen sowie der Organisationsform.

Der Zweck des KI-Kompetenzcenter der Bundesverwaltung ist die praktische Umsetzung von KI-Vorhaben im Rahmen von PoVs, um schnellstmöglich Mehrwerte der Nutzung von KI für die zivile Bundesverwaltung anhand konkreter Anwendungen aufzuzeigen. Das KI-KC wird mit der anstehenden Beauftragung der Bundesdruckerei dort im „Innovations“-Bereich angesiedelt. Die hierfür vorgesehenen Haushaltsmittel werden im Rahmen des Aufkommens geeigneter PoVs verausgabt. Die Anzahl der Stellen, die die Bundesdruckereihierüber finanziert, hängt vom Aufkommen von PoVs ab.

Die Aufnahme der verschiedenen Aktivitäten verdeutlicht die Bestrebungen der Bundesregierung im Bereich des Einsatzes von Künstlicher Intelligenz in der öffentlichen Verwaltung. Die Maßnahmen ergänzen sich und werden eng miteinander vernetzt, um einen gegenseitigen Austausch zu fördern, Doppelstrukturen zu vermeiden und eine bestmögliche Kompetenzentwicklung im Themenbereich Künstliche Intelligenz zu ermöglichen.

Frage

Bis wann hat sich die Bundeswehr an der Erfassung biometrischer Daten von afghanischen Staatsangehörigen und ihrer Weiterleitung an das US-Militär beteiligt (siehe Bundestagsdrucksache 17/6862), und wie viele biometrische Daten von sogenannten „Ortskräften“ (z. B. afghanischen Mitarbeiterinnen und Mitarbeitern und Unterstützerinnen und Unterstützern von militärischen Kräften und diplomatischem Dienst) wurden dabei erfasst und an das US-Militär weitergeleitet? (BT Drucksache 19/32251, Frage 85)

Antwort des Parlamentarischen Staatssekretärs Thomas Silberhorn vom 3. September 2021

Biometrische Daten konnten von Bundeswehrangehörigen auf der Grundlage der Mandate des Deutschen Bundestages und im Rahmen der dazu ergangenen Einsatz- und Verfahrensregeln bis zum Einsatzende Resolute Support gesammelt und an das Hauptquartier weitergeleitet werden. Die Anzahl der erfassten biometrischen Daten und inwieweit diese Daten aus dem Hauptquartier weitergegeben wurden, kann nicht nachgehalten werden, da diese Daten statistisch nicht erfasst wurden.

Frage: Wie ist der Planungsstand zur Entwicklung der polizeilichen KI-Strategie, und wurden neben dem Unternehmen msg systems AG weitere Firmen zur Entwicklung der polizeilichen KI-Strategie eingebunden (vgl. Bundestagsdrucksache 19/13866)? (BT-Drucksache 19/23047)

Antwort des Parlamentarischen Staatssekretärs Dr. Günter Krings vom 2. Oktober 2020
Zur Konkretisierung der Strategie Künstliche Intelligenz (KI) der Bundesregierung im Hinblick auf die innere Sicherheit (Kapitel 3.7) wurde im November 2019 mit der Entwicklung einer polizeilichen KI-Strategie begonnen. Die Strategieentwicklung befindet sich aktuell in der Phase der Finalisierung. Die Veröffentlichung der polizeilichen KI-Strategie wird zu Ende 2020/Anfang 2021 angestrebt.
Das Unternehmen msg systems AG ist Generalunternehmer einer Rahmenvereinbarung des Bundes. Die adesso AG ist als Unterauftragnehmer dieser Rahmenvereinbarung und unterstützt das Bundesministerium des Innern, für Bau und Heimat bei der Erstellung der polizeilichen KI-Strategie. Für den Entwicklungsprozess bedarf es der Einbindung weiterer externer und interner Experten, die innerhalb der unterschiedlichen Handlungsstränge durch das Einbringen ihrer konkreten Fachexpertisen einen wesentlichen Beitrag leisten. Neben den externen Experten von verschiedensten Hochschulen, die für ihre Expertise eine Aufwandsentschädigung erhielten, bestanden/bestehen vertragliche Vereinbarungen mit Fraunhofer FOKUS, der Schütze AG und PD – Berater der öffentlichen Hand GmbH.

Frage: Sind an dem Pilotprojekt der Deutschen Bahn AG in Stuttgart zur videobasierten Fahrgaststrom-Überwachung das Bundesministerium des Innern, für Bau und Heimat oder seine nachgelagerten Behörden an der Entwicklung, Planung, Umsetzung oder Finanzierung beteiligt, und wer hat Zugriff auf die erhobenen Daten vor der Anonymisierung durch das Software-Unternehmen Brighter AI (www.handelsblatt.com/technik/forschung-innovation/pilotprojekt-in-stuttgart-mit-kameras-gegen-corona-deutsche-bahn-will-passagierstroeme-bewusster-lanken/25774872.html)? (BT-Drucksache 19/19240)

Antwort des Parlamentarischen Staatssekretärs Enak Ferlemann vom 13. Mai 2020

Das Bundesministerium des Innern, für Bau und Heimat oder dessen Geschäftsbereichsbehörden sind an dem genannten Projekt nicht beteiligt.
Der Bundesregierung liegen keine eigenen Erkenntnisse hinsichtlich des Zugriffs auf die erhobenen Daten vor der Anonymisierung durch das Software-Unternehmen Brighter AI vor.

Am 27. September fand die erste Sitzung der frisch konstituierten Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ statt. Ich gehöre dieser Kommission als stellvertretendes Mitglied an und werde mich zu den ethischen Fragen rund um Künstliche Intelligenz einbringen; KI hat das Potential, die Gesellschaft als ganzes und unsere Demokratie zu verändern, sowohl in brachialer Weise mittels autonomer Waffensysteme, die selbständig Feinde auswählen und bekämpfen als auch subtiler in Form von Kredigwürdigkeitsprüfungen oder Wählerbeeinflussung.

Auf Vorschlag der Linksfraktion gehören der Enquete-Kommission zwei hochkarätige Sachverständige an: Prof. Dr. Katharina Zweig leitet an der TU Kaiserslautern das Algorithm Accountability Lab; Dr. Florian Butollo forscht am Weizenbaum Institut für die vernetzte Gesellschaft zum Thema Arbeit in hochautomatisierten digital-hybriden Prozessen. Insgesamt gehören der Kommission 19 Sachverständige, 19 Abgeordnete als Vollmitglieder und 19 als Stellvertreter*innen an.

Am kommenden Montag findet eine erste Klausursitzung der Enquete statt. Die Sitzungen werden grundsätzlich nicht-öffentlich stattfinden. Ein entsprechender Änderungsantrag der Grünen für öffentliche, gestreamte Sitzungen, der von der Linksfraktion unterstützt worden war, scheiterte am Willen der Großen Koalition.

Medienecho

Episoden

Diesmal gibts digitale Infos auch aus dem Familienausschuss, wo am 21.6.23 ein Fachgespräch zum Thema Jugendschutz im Internet stattfand (es ging v.a. um Vorratsdatenspeicherung und die EU Chatkontrolle Verordnung). Außerdem gibt es Neues für Euch aus dem Digitalausschuss mit folgenden Themen: was ist und was macht das Kommando Cyber- und Informationsraum der Bundeswehr? Wie gehts weiter mit der EU-KI-Verordnung? Was sind Rundfunk- und Kulturfrequenzen und warum ist ihre Zukunft bedroht? Und superkurz gehts um die Digitalstrategie und das 49€ Ticket.

Ich freue mich, wenn ihr wieder reinhört, den Podcast weiterempfehlt und wie immer über Feedback an anke.domscheit-berg@bundestag.de oder gern auch auf Social Media mit Hashtag #DerADBPodcast.

Dafür bin ich hier zu finden:

Kapitelmarken:

00:00:07 Intro
00:01:09 Familienausschuss – Jugendschutz im Internet/ Chatkontrolle
00:17:42 Digitalausschuss – Kommando Cyber- und Informationsraum (CIR)
00:32:42 EU KI-Verordnung
00:44:13 Rundfunk- und Kulturfrequenzen
00:53:57 Digitalstrategie, digital only 49€ Ticket
00:55:32 Hinweise und Outro
 

Weiterführende Links:

Jugendschutz im Internet und Chatkontrolle:

Kommando Cyber- und Informationsraum der Bundeswehr:

EU KI-Verordnung

Rundfunk- und Kulturfrequenzen

DIgitalstrategie


 

In dieser Folge gehts um Twitter, Künstliche Intelligenz, Cybercrime und den Breitbandausbau. Ich berichte Euch vom Fachgespräch des Bildungsausschusses zu ChatGPT u ähnlichen KI-Modellen mit Vorlage eines Berichts des Büros für Technikfolgen und natürlich vom Digitalausschuss, wo es am 26.4.23 um die ebenso unbekannte wie gruselige UN Cybercrime Convention geht (potenziell alles drin, von Staatshacking über Vorratsdatenspeicherung bis Verfolgung Oppositioneller) und um die lang erwartete neue Breitbandförderung. Außerdem gibts nachgereichte Infos von Twitter (Spoiler: *KopfaufTisch*).

Ich freue mich, wenn ihr wieder reinhört, den Podcast weiterempfehlt und wie immer über Feedback an anke.domscheit-berg@bundestag.de oder gern auch auf Social Media mit Hashtag #DerADBPodcast

Dafür bin ich hier zu finden:

Twitter

Instagram

Mastodon

Youtube

Facebook

Timemarks:

00:00:07 Intro und Nachreichung von Twitter

00:05:51 Bild.Ausschuss: Fachgespräch ChatGPT, Bericht Büro für Technikfolgen

00:14:11 Debatte ChatGPT: Wirt. Potenziale, Regulierung, Bildung und Forschung

00:31:11 ChatGPT: Demokratiegefährdung, Gemeinwohlorientierung

00:42:56 DigAusschuss: UN Cybercrime Convention, Verhandlungsstand

00:52:31 UN Cybercrime Convention: Haltung BuReg zum Brief von 90 NGOs

00:56:26 Breitbandförderung 2023, Budget, Prozesse, Potenzialanalyse, Fazit

01:07:37 Outro

Weiterführende Links:

Twitter:

Fachgespräch ChatGPT im Ausschuss Bildung, Forschung und Technikfolgen

Thema UN Cybercrime Convention

Thema Antrag Union zu Breitbandförderrichtlinie

In der letzten Sitzungwoche im März 2023 gab es eine Sondersitzung des Digitalausschusses zum Whistleblowerschutz (Hinweisgeberschutzgesetz), mit viel Hektik um ein überfälliges und schlecht gemachtes Gesetz, das dann doch nicht wie geplant verabschiedet wurde. Die planmäßige Sitzung wiederum stand im Zeichen der EU: wie bildet die KI-Verordnung die Herausforderungen durch disruptive generative KI ab (ChatGPT und Co)? Wie ist die Haltung der Ampel zur biometrischen Überwachung im öffentlichen Raum? Außerdem gab es Updates zu den EU Verordnungen Chips-Act und Raw Material Act, wo es um mehr Souveränität und Versorgungssicherheit bei Halbleitern und kritischen Rohstoffen geht.

Ich freue mich wenn ihr wieder reinhört, den Podcast weiterempfehlt und wie immer über Feedback an anke.domscheit-berg@bundestag.de oder gern auch auf Social Media mit Hashtag #DerADBPodcast

Dafür bin ich hier zu finden:

Twitter

Instagram

Mastodon

Youtube

Facebook

Kapitelmarken:

00:00:07 Intro

00:01:07 Nachreichung zu Zuständigkeiten in der Digitalpolitik

00:03:02 Hinweisgeberschutzgesetz – Sondersitzung Digitalausschuss 28.3.23

00:19:18 Digitalausschuss 29.3.23 – KI-Verordnung der EU

00:21:48 Intro zu Disruption durch generative KI wie zB ChatGPT

00:28:06 Intro Bundesregierung, Risikobewertung generativer KI

00:33:33 Generative KI und ihre Folgen für die Gesellschaft

00:40:39 Biometrische Überwachung, LEAM, Fazit KI-VO

00:49:29 Critical Raw Materials Act – krit. Rohstoffe Verordnung EU

00:56:32 EU Chips Act

01:04:55 Outro

Shownotes:

Meine Rede zum Data Act vom 31.3.2023:

Whistleblower: Hinweisgeberschutzgesetz

Zum AI-Act (Künstliche Intelligenz-Verordnung):

Zum Critical Raw Materials Act (kritische Rohstoffe-Verordnung) der EU

Zu Chips-Act (Halbleiter-Verordnung) der EU: