© REUTERS / AMIR COHEN

Digital Life
03/13/2019

Gesichtserkennung: IBM wertet 100 Millionen private Fotos aus

Für die Datenbank wurden Flickr-Fotos ohne Zustimmung verwendet. Auch Österreicher sind betroffen, darunter Xamoom-CEO Georg Holzer.

von Martin Stepanek

Die Forschungsabsicht mag löblich klingen, der Weg dorthin wirft allerdings viele Fragen auf. Um Gesichtserkennung zu verbessern, die bei Dunkelhäutigen und Frauen immer noch schlechtere Ergebnisse als etwa bei weißen Männern liefert, hat IBM eine kostenlose Foto-Datenbank zum Trainieren von Algorithmen zur Verfügung gestellt.

Das Problem dabei: Bei den 100 Millionen Fotos handelt es sich unter anderem um private Schnappschüsse, die von Nutzern auf die Foto-Plattform Flickr hochgeladen wurden und nun ohne deren Wissen oder Einverständnis analysiert werden. IBM macht sich dabei zunutze, dass die User ihre Bilder für die nicht-kommerzielle Weiterverwendung und Nutzung freigegeben haben. Der Konzern argumentiert, dass die erstellte Datenbank nur für nicht-kommerzielle Forschungszwecke verwendet und auch anderen Forschungseinrichtungen bereitgestellt wird.

Betroffene Nutzer empört

Betroffen sind Nutzer aus der ganzen Welt, wie ein Tool des Nachrichtensenders NBC zeigt, der die Berichterstattung ins Rollen gebracht hat. Unter der Usern, von denen die meisten Bilder verwendet wurden, ist Georg Holzer, der Gründer des österreichischen Technologieunternehmens Xamoom. „Die Fotos wurden explizit als non-kommerziell hochgeladen. Dass ein börsennotierter Konzern wie IBM hier so tut, als würde es selbstlos in Forschung investieren, ist fadenscheinig und unglaubwürdig. So ein Konzern macht nichts ohne kommerziellen Hintergedanken“, kritisiert Holzer im Interview mit der futurezone.

Der Unternehmer wird IBM auffordern, die über 750 Bilder zu entfernen. Das Ganze wiege umso schwerer, da nicht nur sein eigenes Gesicht, sondern auch das vieler Freunde auf den Fotos festgehalten wurde. Holzer zufolge habe er die Bilderplattform seit 2014 nicht genutzt, einige Bilder seien bereits 2006 von ihm auf die Plattform gestellt worden. „Damit rechnet ein normaler Mensch ja nicht. Man nutzt solche Dienste als persönliche Erinnerung für sich und seine Freunde“, sagt Holzer.

"Großes Missbrauchspotenzial"

Welche Schnappschüsse IBM aus dem eigenen Profil für die Datenbank ausgewählt hat, bleibt den betroffenen Nutzern verborgen. Auch ob der Konzern wie versprochen die Fotos entfernt, die in der riesigen Datenbank zu finden sind, ist für User schwer bis überhaupt nicht nachvollziehbar. „Gesichtserkennung birgt enormes Missbrauchspotenzial, etwa in der Totalüberwachung unserer Gesellschaft. Ich will nicht am Flughafen verhaftet werden, weil die Gesichtserkennung glaubt, ich sehe ähnlich aus wie ein gesuchter Terrorist“, warnt Holzer vor der Fehleranfälligkeit solcher Systeme.

IBM ist naturgemäß nicht der einzige Konzern, der sich Millionen Nutzerfotos ohne explizite Einwilligung krallt, um Gesichtserkennungstechnologien zu entwickeln. Auch Google und Facebook stehen immer wieder in der Kritik, sich zu viele Freiheiten bei den persönlichen Daten von Usern zu nehmen. Eine Klage eines Google-Nutzers, wonach die Gesichtserkennung bei Google Photo den Datenschutz verletze, wurde zuletzt im US-Bundesstaat Illinois allerdings abgeschmettert.

Warnung vor #10YearsChallenge

Facebook wiederum nutzte ausgerechnet die neuen strengeren Datenschutzregeln aus, um Nutzern in Europa seine ebenfalls nicht unumstrittene Gesichtserkennung unterzujubeln. Denn mit der Zustimmung zu den neuen Nutzungsbedingungen gab man durch eine Voreinstellung gleich die Einwilligung, seine Fotos und Videos für die Gesichtserkennung zur Verfügung zu stellen. Erste Sammelklagen diesbezüglich laufen in den USA bereits.

Facebooks Datenskandale, bei denen persönliche Informationen an externe Firmen weitergegeben wurden, haben das Vertrauen nicht gestärkt. Dazu kommt wie im vorliegenden Fall, dass Nutzer sich einfach nicht bewusst sind, für welche Zwecke ihre online geposteten Fotos verwendet werden können. Zuletzt warnten kritische Stimmen etwa vor der äußerst populären #10YearChallenge, die Millionen Menschen dazu animierte, Fotos von sich vor zehn Jahren im direkten Vergleich mit der Jetztzeit zu posten.

So besteht der Verdacht, dass dieses Bildmaterial zur Auswertung und Weiterentwicklung von Gesichtserkennung herangezogen werden kann – etwa um den sichtbaren Alterungsprozess in entsprechenden Algorithmen abzudecken. Wenn Software besser in der Lage wäre, das Alter von Personen im Netz zu schätzen, könnte diese Information für gezielte Werbung eingesetzt werden – um ein etwa harmloseres Beispiel anzuführen.

Gefahr für Minderheiten

Datenschützer und Bürgerrechtler befürchten, dass Gesichtserkennungstechnologien künftig missbraucht werden könnten, um gerade Minderheiten, Migranten, aber auch Menschen mit dunkler Hautfarbe stärker zu überwachen. Da diese Gruppen schon jetzt oft schuldlos Opfer von sogenanntem „Racial Profiling“ werden, seien deren Profilfotos auch überdurchschnittlich oft in Polizeidatenbanken, was wiederum die Missbrauchsmöglichkeiten erhöhe. Erst im Jänner forderten 85 Organisationen in den USA die Technologiefirmen Microsoft, Amazon und Google auf, ihre Gesichtserkennungstechnologien deshalb nicht an Regierungen zu verkaufen.

Im Fall der von IBM zusammengetragenen Foto-Datenbank bleibt abzuwarten, ob der Konzern mit der Verwendung der Bilder unter der Creative-Commons-Lizenz für die nicht-kommerzielle Nutzung durchkommt. Auch dass es praktisch keinen Weg gibt, seine Bilder aus der Datenbank zu bekommen, die bereits mit 250 Forschungseinrichtungen geteilt wurde, bleibt problematisch.