FILES-US-IT-POLICE-PRIVACY-COURT
© APA/AFP/DAVID MCNEW / DAVID MCNEW

Netzpolitik

Umstrittene Gesichtserkennung bewahrt Unschuldigen vor Gefängnis

Die umstrittene Gesichtserkennungs-App Clearview AI hat einen Unschuldigen davor bewahrt, 15 Jahre im Gefängnis zu sitzen. Andrew Grantt Conlyn aus Florida war Beifahrer in einem Unfallauto, als sein Freund auf die falsche Seite der Straße geriet und die Kontrolle über das Auto verloren hatte. Sein Freund wurde aus dem Auto geschleudert und Conlyn von einem Unbekannten gerettet, in dem er in letzter Minute über die Fahrerseite aus dem Auto gezogen worden war.

Polizei glaubte, er wäre der Fahrer gewesen

Die Augenzeugen, die später zum Geschehen hinzu gekommen waren, konnten nur noch berichten, dass er über die Fahrerseite rausgezogen worden war - und auch im Polizeiprotokoll war lediglich das vermerkt. Der Augenzeuge, der ihm das Leben gerettet hatte, war verschwunden. Sein Freund, der aus dem Auto geschleudert worden war, war noch an Ort und Stelle verstorben.

Der Mann aus Florida landete deshalb vor Gericht. Ihm wurden 15 Jahre wegen gefährlicher Tötung angedroht. Doch sein Anwalt wollte nicht aufgeben, berichtet die New York Times. Er hatte von der umstrittenen Gesichtserkennungssoftware Clearview AI gehört, auf die Polizeibehörden Zugriff haben. Er schrieb Clearview AI an, und bat um den Zugriff auf die Datenbank, um diesen Augenzeugen zu finden.

Clearview entschied sich, Anwalt Datenzugriff zu geben

Clearview AI bekommt in der Regel hunderte von Anfragen, wo es darum geht, vermisste Kinder zu finden oder Ähnliches. Doch selten bekommt jemand Antwort vom Unternehmen. In diesem Fall aber wurde die Gesichtserkennungsdatenbank freigegeben, denn das Unternehmen kann Positiv-PR gerade gut brauchen.

In der Clearview-Datenbank fand der Anwalt ein Foto des Augenzeugen in einem Club, allerdings ohne Namen. Dort war ein zweiter Mann drauf zu sehen, dessen Name bekannt war. Der Anwalt schrieb diesen per Facebook an, und gelangte so zum Augenzeugen und Retter seines Klienten.

Dieser erinnerte sich an den besagten Abend noch ganz genau, so hatte er selbst Angst um sein Leben, als er den Mann aus dem Wagen zog, denn dieser hätte in jeder Minute explodieren können. Er sagte aus und so geschah es, dass Conlyn nicht zu 15 Jahren Haft verurteilt worden war. Wie man ihn ausfindig gemacht hatte, fand er allerdings ganz schon unheimlich. Er habe kein gutes Gefühl dabei, heißt es im New York Times Bericht.

„Das ist eine seltene Situation, in der die meisten Verteidigungsanwälte diese Software nutzen wollen würden. Aber ansonsten ist es ein PR-Stunt, um die negative Meinung über Clearview AI zu bekämpfen.“

Jerome Greco, Forensiker

Geschäftsmodell der Software soll ausgebaut werden

Clearview AI, das Unternehmen, das die umstrittene Gesichtserkennungssoftware herstellt, will nun die Gelegenheit nutzen, um ihre Software nicht nur Polizeibehörden, sondern auch Staatsanwälten und Gerichtsverteidigern anbieten. Derzeit gäbe es eine kostenlose 30-Tage-Version der Software, bevor auch diese Berufsgruppe Zugriff für ungefähr 2.000 US-Dollar pro Jahr auf die Datenbank bekommen würde. So viel würden auch Polizeidienststellen und Behörden wie das US-Heimatschutzministerium oder das FBI in den USA dafür zahlen, heißt es.

Doch die Software ist seit jeher umstritten. Denn die Bilder, die in der Datenbank gesammelt werden, wurden ohne Zustimmung ihrer Nutzer*innen gespeichert. Die Daten stammen dabei von Social-Media-Diensten wie Facebook, Twitter, YouTube, Venmo und Millionen von Websites. Laut Hoan Ton-That, dem Betreiber, handelt es sich dabei lediglich um Bilder, die öffentlich zugänglich sind.

ISDEF 2019 exhibition in Tel Aviv

Gesichtserkennungslösungen gibt es mittlerweile viele. Das Problem: Sie sind meistens sehr fehleranfällig

Unschuldiger landete im Gefängnis

Ein weiteres Problem daran ist, dass die Gesichtserkennungssoftware keineswegs fehlerfrei arbeitet und daher auch schon Verdächtige unschuldig ins Gefängnis gebracht hat - also genau das Gegenteil des aktuellen Falls, über den die „New York Times“ berichtet hat.

Im Winter 2020 wurde bekannt, dass der US-Amerikaner N. Parks 2019 irrtümlicherweise für 10 Tage ins Gefängnis kam. Die Gesichtserkennungs-Software Clearview AI, die von der Polizei in New Jersey zum Identifizieren von Kriminellen zum Einsatz kam, hatte ihn mit einem anderen Mann verwechselt. Seit Parks Fall ist die Software im Bundesstaat New Jersey verboten.

Ton-That von Clearview AI selbst gab in früheren Gesprächen an, dass die Trefferquote bei 75 Prozent liege. Das würde aber bedeuten, dass in 25 Prozent aller Fälle die Gesichtserkennung nicht so wie gewünscht funktioniert und falsche Bilder miteinander verknüpft. Wenn man damit Verbrechen aufklären möchte, oder beweisen, ob jemand unschuldig ist, ist so eine Fehlerquote eigentlich untragbar.

Strafverteidiger*innen sehen Software weiterhin kritisch

Jumana Musa, Direktorin des Fourth Amendment Center im Bundesverband der US-Strafverteidiger*innen, ist skeptisch, was den Einsatz von Clearview AI bei der Beweisführung zur Aufklärung von Straftaten betrifft. „Natürlich können sie es jedem anbieten, aber es wischt nicht sämtliche ethische Bedenken weg, über das wie dieses Tool entstanden ist. Außerdem fühlen wir uns nicht wohl dabei, wenn wir nicht wissen, wie das Tool eigentlich genau funktioniert. Darum wird ein Geheimnis gemacht“, so Musa. Man könne kein kaputtes Strafrechtssystem reparieren, in dem man Technologie drüberstülpt, so die Expertin laut New York Times.

Auch Jerome Greco, ein Forensiker im Technology Lab der Legal Aid Society, glaubt laut dem Bericht nicht, dass der positive Fall des Unfallopfers den generellen Einsatz Clearview AI rechtfertigen würde: „Das ist eine seltene Situation, in der die meisten Verteidigungsanwälte diese Software nutzen wollen würden“, so Greco. „Aber ansonsten ist es ein PR-Stunt, um die negative Meinung über Clearview AI zu bekämpfen.“

Hat dir der Artikel gefallen? Jetzt teilen!

Barbara Wimmer

shroombab

Preisgekrönte Journalistin, Autorin und Speakerin. Seit November 2010 bei der Kurier-Futurezone. Schreibt und spricht über Netzpolitik, Datenschutz, Algorithmen, Künstliche Intelligenz, Social Media, Digitales und alles, was (vermeintlich) smart ist.

mehr lesen
Barbara Wimmer

Kommentare