SINGAPORE-TECH-APPLE-SMARTPHONE

© APA/AFP/ROSLAN RAHMAN / ROSLAN RAHMAN

Netzpolitik
01/20/2020

Geheime App scannte Gesichter für Polizeibehörden

Clearview AI galt bisher als unbekannt. Doch die Gesichtserkennungs-App wurde von 600 Polizeibehörden in den USA verwendet.

von Barbara Wimmer

Eine Gesichtserkennungs-App, die anhand eines einzigen Fotos zahlreiche weitere Bilder über dich findet: Das hat der 31-jährige Hoan Ton-That erfunden – und damit ein Tabu in der Branche gebrochen. Natürlich sind große Unternehmen wie Facebook oder Google technisch in der Lage, dasselbe zu tun. Doch die kleine App mit dem Namen Clearview AI nutzte die Gesichtserkennungstechnologie, um die Bilddaten mit zahlreichen Behörden in den USA zu teilen.

Clearview AI wird vom FBI, dem Heimatschutz und zahlreichen kleinen, lokalen Polizeibehörden eingesetzt, um Verbrecher zu finden, wie die „New York Times“ berichtet. Insgesamt soll die App bei 600 Behörden im Einsatz sein. Wenn man etwa ein Foto eines potentiellen Verbrechers aus einer Überwachungskamera hat, kann man dieses in Clearview AI einpflegen und bekommt mit einem Klick alle Fotos dieser Person ausgespuckt, die öffentlich existieren.

Woher die Bilder stammen

Die Daten stammen dabei von Social-Media-Diensten wie Facebook, Twitter, YouTube, Venmo und Millionen von Websites. Laut Ton-That handelt es sich dabei lediglich um Bilder, die öffentlich zugänglich sind. Doch wenn jemand etwa die Privatsphäre-Einstellungen auf Facebook nachträglich geändert oder Bilder von sich gar gelöscht hat, und die Daten wurden vorher bereits eingesammelt, werden sie von Clearview AI weiterhin gespeichert und erfasst.

Clearview AI findet demnach auch Bilder von Menschen, von denen diese selbst nicht einmal gewusst haben, dass sie existieren. Das Material kann dabei etwa von öffentlichen Überwachungskameras stammen, oder aus Szenen von YouTube-Videos auf einer Party, die sie zufällig besucht hatten.

Wofür die App eingesetzt wird

Polizeibehörden haben laut der „New York Times“ bereits Diebstähle, Identitätsdiebstähle, Kreditkartenbetrug, Morde und Fälle von Kindesmissbrauch aufgeklärt. Die Software wurde allerdings nie von einer offiziellen Stelle geprüft, ob sie für all diese Arbeiten auch geeignet ist – und was für eine Trefferquote sie hat. Ton-That gibt an, dass die Trefferquote bei 75 Prozent liegt. Das würde aber bedeuten, dass in 25 Prozent aller Fälle die Gesichtserkennung nicht so wie gewünscht funktioniert und eventuelle falsche Bilder miteinander verknüpft. Ein derartiger Einsatz bei offiziellen Stellen wie Polizei, FBI und Behörden ist daher sehr fragwürdig.

Clearview AI wurde mit Geldern vom US-Investor Peter Thiel entwickelt, der unter anderem auch Palantir unterstützt hatte. Dieser war erst nach einem Re-Branding der App eingestiegen, denn ursprünglich wusste das Start-up nicht, wer die Zielgruppe für die App sein werde. Erst nach dem Re-Branding sprach man gezielt Polizeibehörden an, heißt es in dem Bericht.

In den USA zog der Bericht eine große Welle an Aufmerksamkeit auf sich. Dass mit Gesichtserkennung aus technologischer Sicht vieles möglich war, wusste man schon lange. Auch, dass es sich dabei um eine mächtige Technologie handelt. Doch dass ein kleines, unbekanntes Start-up den Markt besetzt und einen gesellschaftlichen Tabubruch begeht, damit hatte offenbar niemand gerechnet.

San Francisco war eine der ersten Städte in den USA, die Behörden die Verwendung von Gesichtserkennungstools verboten hatte.

EU-Kommission erwägt Verbot

In Europa erwägt die EU-Kommission einen Bann von Gesichtserkennungstechnologien für die nächsten drei bis fünf Jahre, wie aus einem Dokument hervorgeht, um die „Auswirkungen der Technologie und mögliche Risikomanagementmaßnahmen zu identifizieren“. Dieses Verbot müsste allerdings bald kommen – denn auch hierzulande bereitet die Polizei den Einsatz der Gesichtserkennungstechnologie bereits vor und testet diese.

In Deutschland forciert etwa der Innenminister Horst Seehofer den Einsatz mit einem neuen Polizeigesetz. Er möchte an Bahnhöfen und Flughäfen „intelligente Videoüberwachung“ mit Gesichtserkennung in Echtzeit einsetzen. Das Bündnis "Gesichtserkennung stoppen", dem etwa die Initiativen Digitale Freiheit, Chaos Computer Club (CCC), Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF), Digitale Gesellschaft und Digitalcourage angehören, fordert generell ein "Verbot dieser hochproblematischen Technologie in Deutschland".