Internetplattform Twitter sah sich mit Boykott konfrontiert

© APA - Austria Presse Agentur

Digital Life
09/21/2020

Twitter-Algorithmus unter Rassismusverdacht

Die Foto-Vorschau auf Twitter scheint weiße Menschen zu bevorzugen. Twitter will den Algorithmus offenlegen.

Der farbige, ehemalige US-Präsident Barack Obama oder der weiße Senatsführer der Republikaner Mitch McConnell - der Twitter-Algorithmus ist sich sicher, wen die Menschen im Vorschaubild sehen wollen: Mitch McConnell. Das fiel dem Kryptografen Tony Arcieri auf, der ein interessantes Experiment startete.

Auf die Idee gekommen war er, nachdem sein Arbeitskollege mit dunkler Hautfarbe in einem Zoom-Call nicht erkannt wurde, als er einen anderen Zoom-Hintergrund installiert hatte. Die Algorithmen konnten das Gesicht nicht identifizieren. Arcieri postete daher auf Twitter Bilder der beiden Politiker und stellte fest, dass Twitter immer das Gesicht von Mitch McConnell groß darstellte. Barack Obama dagegen schien nur dann auf, wenn der Kryptograf die Farben umwandelte.

 

Die Priorität bei den in der Vorschau angezeigten Bildern ändert sich jedoch auch, wenn man den Bildkontrast verändert. Je nach App oder Plattform, mit der man die Bilder hochlädt, bekomme man andere Highlights, heißt es auf Engadget.

Ursprünglich hatte Twitter angegeben, dass der Gesichtserkennungsalgorithmus die Vorschau-Bilder nach Bekanntheit reihen würde. Demnach hätte Barack Obama als Ex-Präsident der USA immer an erster Stelle aufscheinen müssen, weil er international wesentlich bekannter ist als der Republikaner. Doch Twitter hat den Algorithmus geändert, weil nicht alle Bilder wirklich Gesichter hätten und es so manchmal zu einer "merkwürdigen Vorauswahl" gekommen sei.

Twitter untersucht noch

Bei Twitter kann man dieses Problem mit den farbigen und weißen Gesichtern vorerst nicht ganz nachvollziehen. Liz Kelley vom Kommunikationsteam twitterte etwa, dass man bei der Entwicklung keine Beweise dafür gefunden habe, dass die Algorithmen bei der Bilder-Vorschau Menschen mit dunkler Hautfarbe oder Frauen diskriminieren würden. Jedoch sei Twitter noch dabei, diese Vorwürfe zu untersuchen.

Zudem wolle man den Algorithmus offenlegen, um anderen die Möglichkeit zu geben, das Problem zu untersuchen.
Der Algorithmus trifft seine Entscheidungen aufgrund von den Daten, mit denen er gefüttert worden war. Das neuronale Netzwerk hat selbstständig dazu gelernt. Es besteht keine Möglichkeit, dieses Problem, sollte es wirklich von Forschern bestätigt werden, in den Griff zu bekommen.

Rassistische Algorithmen

Dass Algorithmen Menschen mit dunkler Hautfarbe benachteiligen, ist schon länger bekannt. Google-Algorithmen spucken etwa bei der Suche nach „Black Girls“ vor allem Pornoseiten aus. Die ersten Probleme traten bereits im Jahr 2015 auf, als Flickr Menschen mit dunkler Hautfarbe als „Affe“ getaggt hat. Doch das Problem zieht sich weiter: Menschen mit dunkler Hautfarbe bekommen etwa auch bestimmte Job-Angebote nicht angezeigt, weil sie die Algorithmen automatisch aussortieren.

eine Newsletter Anmeldung Platzhalter.

Wir würden hier gerne eine Newsletter Anmeldung zeigen. Leider haben Sie uns hierfür keine Zustimmung gegeben. Wenn Sie diesen anzeigen wollen, stimmen sie bitte Piano Software Inc. zu.