KI in der Verwaltung: Bundesregierung folgt dem Hype

„Risiken ergeben sich vor allem dann, wenn KI Menschen in Gruppen einteilt und es anhand dieser Gruppenzuordnung zu unterschiedlicher Behandlung kommt“, kommentiert Domscheit-Berg die Antwort der Bundesregierung. Das sei weniger problematisch bei einer KI, die E-Mails sortiert, jedoch folgenschwer, wenn es um Leib und Leben geht oder Grundrechtsverletzungen drohen. „Eine solche Gruppeneinteilung muss nicht einmal Absicht sein, sondern ergibt sich häufig aus den Daten, die für das Training der Systeme eingesetzt wurden.“