FILES-BRITAIN-POLICE-BIOMETRICS-CRIME

© APA/AFP/TOLGA AKMEN / TOLGA AKMEN

Netzpolitik
06/24/2020

Unschuldiger wegen Gesichtserkennungs-Fehler verhaftet

Vor den Augen von Frau und Kindern festgenommen, 30 Stunden in Haft: Ungerechte Odyssee eines Mannes zeigt großes Problem auf.

In US-amerikanischen Medien sorgt ein Fall für Aufsehen, bei dem ein Software-Fehler zur Verhaftung eines Unschuldigen führte. Die New York Times schreibt, es könnte das erste Mal sein, dass jemand wegen Gesichtserkennungs-Software für ein Verbrechen inhaftiert wurde, das er nicht begangen hat. Zusätzliche Brisanz erhält der Fall, weil das Opfer, der 42-jährige Robert Williams, ein Afroamerikaner ist. In Zeiten internationaler Antirassismus-Bekundungen im Zuge der "Black Lives Matter"-Bewegung gerät dadurch die Problematik voreingenommener Software ins Scheinwerferlicht.

"Nur ein schwarzer Mann"

Williams wurde im Jänner zunächst per Telefon von der örtlichen Polizei dazu aufgefordert, sich zur nähesten Station zu bewegen und sich verhaften zu lassen. Er glaubte, dabei handle es sich um einen schlechten Scherz. Eine Stunde später wurde er vor seinem Haus von Polizisten abgeführt. Seine Frau und seine zwei Töchter (2 und 5 Jahre alt) waren Augenzeugen. Die Polizisten verrieten Williams nicht, warum er verhaftet wurde. Auf Nachfrage seiner Frau bekam diese zu hören "Googlen sie es".

Auf der Polizeistation wurde Williams in einem Verhörzimmer mit Standbildern von Überwachungskameravideos konfrontiert, die einen schwarzen Mann beim mutmaßlichen Diebstahl von fünf Uhren in einem Geschäft zeigten. "Als ich das Bild von dem Typen sah, sah ich nur einen schwarzen Mann. Ich sah keine Ähnlichkeit", erzählt Williams NPR. Den Polizisten, von dem er verhört wurde, konfrontierte er: "Ich hoffe, Sie glauben nicht, dass alle schwarzen Menschen gleich aussehen."

Neue Regeln

Nachdem er 30 Stunden lang festgehalten wurde, kam Williams gegen Kaution frei. Bei einer gerichtlichen Anhörung wurde der Fehler der Gesichtserkennungssoftware, die Williams fälschlicherweise als den Uhrendieb identifiziert hatte, von der Polizei eingestanden. Das Detroit Police Department hat kurz nach dem Fall neue Regeln erstellt, wonach künftig nur Fotografien, keine Standbilder aus Videos von Gesichtserkennungs-Software analysiert werden dürfen.

Systematischer Fehler

Für Bürgerrechtler stellt der Fall dennoch einen Skandal dar. "Sie haben ihm keinerlei Fragen gestellt, bevor er verhaftete wurde. Sie fragten ihn nicht einmal danach, wo er an diesem Tag war", meint Phil Mayor, Anwalt der Bürgerrechtsorganisation ACLU. Für Computerwissenschaftler kommt es nicht überraschend, dass Gesichtserkennungs-Software gerade bei einem Afroamerikaner ein falsche Ergebnis ausgespuckt hat.

"Diese Fehlerkennung zeigt eine der Gefahren von Gesichtserkennungstechnologie, die in vielen Studien aufgezeigt wurde", meint MIT-Forscherin Joy Buolamwini, die die Organisation Algorithmic Justice League gegründet hat. Speziell Menschen mit dunkler Hautfarbe werden von Gesichtserkennungs-Software oft unzureichend genau erkannt.