© Getty Images/iStockphoto / chombosan/Istockphoto

Digital Life

Künstliche Intelligenz kann Rassismus bei Polizei befeuern

Der Einsatz von künstlicher Intelligenz (KI) kann Rassismus bei der Polizei intensivieren, sind UN-Experten besorgt. Zum Kampf gegen Rassendiskriminierung teilte der zuständige UN-Ausschuss CERD unlängst mit, dass diese KI-Technologien – etwa Gesichtserkennungsprogramme – die Menschenrechte respektieren müssen. Der Ausschuss fordert damit komplette Transparenz über Design und Einsatz solcher Profiling-Algorithmen.

KI-Technologien könnten bestehende Vorurteile reproduzieren und verstärken und das ohnehin schon bestehende Problem verschlimmern, berichtet JakartaPost.

Verbrechensprognose

Vor allem warnt CERD vor der Nutzung von KI-Technologien zu Verbrechensprognosen. "Beispielsweise können historische Verhaftungsdaten einer Nachbarschaft rassistisch voreingenommene Polizeipraktiken widerspiegeln", sagt CERD-Mitglied Verene Shepherd. Dies könne in der jeweiligen Region etwa zu mehr Verhaftungen führen .Shepherd hat die Ausarbeitung der allgemeinen Empfehlungen geleitet. 

Die UN-Spezialisten fordern nicht nur Transparenz zu den Systemen, sondern auch, dass Staaten mögliche menschenrechtliche Konsequenzen vor dem Einsatz von Gesichtserkennungssoftware genau überprüfen.

Hat dir der Artikel gefallen? Jetzt teilen!

Kommentare

Liebe Community! Unsere Developer arbeiten derzeit fleißig daran ein neues Kommentarsystem für euch zu entwickeln! Ab Ende Jänner könnt ihr dann auch über diesem Wege mit uns in Kontakt treten und wir freuen uns schon auf viele interessante Kommentare!