Netzpolitik
26.07.2018

Amazons Gesichtserkennung identifiziert US-Politiker fälschlich als Verbrecher

Ein Test einer US-Bürgerrechtsorganisation zeigt große Mängel beim Einsatz des Amazon-Systems bei Behörden auf.

Amazons umstrittenes Gesichtserkennungs-System Rekognition hat 28 Kongressabgeordnete fälschlicherweise als Straftäter erkannt. Das hat ein Test der Bürgerrechtsorganisation ACLU ergeben. Diese testeten das System mit Fotos der 535 Abgeordneten des Kongresses und ließen es mit 25.000 öffentlich verfügbaren Polizeifotos von bekannten Straftätern abgleichen. „Eine Identifizierung – ob sie nun zutreffen ist oder nicht – kann Menschen ihre Freiheit und sogar ihr Leben kosten“, warnte die ACLU in einer öffentlichen Aussendung. Die Non-Profit-Organisation protestiert mit der Aktion gegen den Einsatz des Gesichtserkennungs-Systems bei Behörden, wie der US-Polizei.

Laut Amazon seien die Ergebnisse nicht aussagekräftig, da die ACLU einen zu niedrigen Schwellenwert verwendet habe. Demnach musste das System lediglich zu 80 Prozent sicher sein, dass es eine Übereinstimmung erkannt habe, um anzuschlagen. Für den Einsatz bei Behörden, wie der Polizei, empfehle man aber mindestens 95 Prozent, so Amazon.

„Während 80 Prozent ein ausreichender Grenzwert für Fotos von Hot Dogs, Sesseln, Tieren oder anderen Social-Media-Anwendungsfällen wäre, ist er nicht angemessen, um Personen mit einem vernünftigen Maß an Sicherheit zu erkennen“, so ein Sprecher gegenüber The Verge. Laut ACLU handelt es sich bei den 80 Prozent um den Standardwert der Software, der auch von vielen Polizei-Stationen, die die Software im Einsatz haben, nicht angepasst werde.

Zuletzt setzte verstärkt die US-Polizei das vergleichsweise kostengünstige System ein. Der US-Konzern arbeitete offenbar eng mit den Strafverfolgungsbehörden zusammen, die das System in mehreren Bundesstaaten bereits testen. In Orlando wurde ein Pilotprojekt nach Protesten eingestellt, doch in Washington County im US-Bundesstaat Oregon werde das System weiterhin eingestellt. Dort werden mithilfe von Rekognition Aufnahmen zeitweise mit bis zu 300.000 Polizeifotos abgeglichen.

Die Ergebnisse warfen auch die Frage auf, ob Amazons Rekognition-System gegenüber Menschen anderer Hautfarbe diskriminiert. Elf der 28 fälschlich als Straftäter identifizierten Kongressabgeordneten, unter ihnen der bekannte Bürgerrechtler John Lewis, gehörten Minderheiten an.

Die ACLU kritisiert, dass der US-Konzern den Behörden damit Werkzeuge für einen autoritären Überwachungsstaat liefern würde. Auch in China werden bereits seit längerer Zeit Experimente mit Gesichtserkennung durchgeführt, die bei der Identifizierung von verdächtigen Personen zum Einsatz kommen soll. Im Mai wurde zudem bekannt, dass während des Champions-League-Finalspiels 2017 mehr als 2000 Menschen fälschlicherweise von einem Gesichtserkennungs-System als Kriminelle erkannt wurden. Tests der Londoner Polizei lieferten ähnlich schlechte Ergebnisse: Auf einen korrekt erkannten Straftäter kamen 49 Fehlalarme.