Geheime KI ohne Risikoabschätzung bei Sicherheitsbehörden

Polizeien und Geheimdienste in Deutschland nutzen KI-Systeme. Wofür, soll aber geheim bleiben. Eine Risikoabschätzung gibt es kaum. Kommerziell genutzte KI-Systeme sind oft diskriminierend. Deshalb hat Twitter etwa Bug-Bounties dafür ausgeschrieben, große Software-Unternehmen wie Microsoft oder Deepmind halten die Software deshalb teils zurück. Darüber hinaus hat die stark umstrittene Nutzung von KI-Techniken durch die Polizei in den USA mehrfach zu falschen Beschuldigungen oder anderen Problemen geführt, so dass etwa die Nutzung von Gesichtserkennungssystemen ausgesetzt worden ist. Von diesen Entwicklungen scheint bei deutschen Behörden jedoch noch nicht viel angekommen zu sein, wie die Antwort auf ein kleine Anfrage von Anke Domscheit-Berg (Die Linke) nahelegt.