Künstliche Intelligenz kann Rassismus bei Polizei befeuern

Der Einsatz von künstlicher Intelligenz (KI) kann Rassismus bei der Polizei intensivieren, sind UN-Experten besorgt. Zum Kampf gegen Rassendiskriminierung teilte der zuständige UN-Ausschuss CERD unlängst mit, dass diese KI-Technologien – etwa Gesichtserkennungsprogramme – die Menschenrechte respektieren müssen. Der Ausschuss fordert damit komplette Transparenz über Design und Einsatz solcher Profiling-Algorithmen.

KI-Technologien könnten bestehende Vorurteile reproduzieren und verstärken und das ohnehin schon bestehende Problem verschlimmern, berichtet JakartaPost.

Verbrechensprognose

Vor allem warnt CERD vor der Nutzung von KI-Technologien zu Verbrechensprognosen. "Beispielsweise können historische Verhaftungsdaten einer Nachbarschaft rassistisch voreingenommene Polizeipraktiken widerspiegeln", sagt CERD-Mitglied Verene Shepherd. Dies könne in der jeweiligen Region etwa zu mehr Verhaftungen führen .Shepherd hat die Ausarbeitung der allgemeinen Empfehlungen geleitet. 

Die UN-Spezialisten fordern nicht nur Transparenz zu den Systemen, sondern auch, dass Staaten mögliche menschenrechtliche Konsequenzen vor dem Einsatz von Gesichtserkennungssoftware genau überprüfen.