Twitter-Algorithmus unter Rassismusverdacht

Der farbige, ehemalige US-Präsident Barack Obama oder der weiße Senatsführer der Republikaner Mitch McConnell - der Twitter-Algorithmus ist sich sicher, wen die Menschen im Vorschaubild sehen wollen: Mitch McConnell. Das fiel dem Kryptografen Tony Arcieri auf, der ein interessantes Experiment startete.

Auf die Idee gekommen war er, nachdem sein Arbeitskollege mit dunkler Hautfarbe in einem Zoom-Call nicht erkannt wurde, als er einen anderen Zoom-Hintergrund installiert hatte. Die Algorithmen konnten das Gesicht nicht identifizieren. Arcieri postete daher auf Twitter Bilder der beiden Politiker und stellte fest, dass Twitter immer das Gesicht von Mitch McConnell groß darstellte. Barack Obama dagegen schien nur dann auf, wenn der Kryptograf die Farben umwandelte.

 

Die Priorität bei den in der Vorschau angezeigten Bildern ändert sich jedoch auch, wenn man den Bildkontrast verändert. Je nach App oder Plattform, mit der man die Bilder hochlädt, bekomme man andere Highlights, heißt es auf Engadget.

Ursprünglich hatte Twitter angegeben, dass der Gesichtserkennungsalgorithmus die Vorschau-Bilder nach Bekanntheit reihen würde. Demnach hätte Barack Obama als Ex-Präsident der USA immer an erster Stelle aufscheinen müssen, weil er international wesentlich bekannter ist als der Republikaner. Doch Twitter hat den Algorithmus geändert, weil nicht alle Bilder wirklich Gesichter hätten und es so manchmal zu einer "merkwürdigen Vorauswahl" gekommen sei.

Twitter untersucht noch

Bei Twitter kann man dieses Problem mit den farbigen und weißen Gesichtern vorerst nicht ganz nachvollziehen. Liz Kelley vom Kommunikationsteam twitterte etwa, dass man bei der Entwicklung keine Beweise dafür gefunden habe, dass die Algorithmen bei der Bilder-Vorschau Menschen mit dunkler Hautfarbe oder Frauen diskriminieren würden. Jedoch sei Twitter noch dabei, diese Vorwürfe zu untersuchen.

Zudem wolle man den Algorithmus offenlegen, um anderen die Möglichkeit zu geben, das Problem zu untersuchen.
Der Algorithmus trifft seine Entscheidungen aufgrund von den Daten, mit denen er gefüttert worden war. Das neuronale Netzwerk hat selbstständig dazu gelernt. Es besteht keine Möglichkeit, dieses Problem, sollte es wirklich von Forschern bestätigt werden, in den Griff zu bekommen.

Rassistische Algorithmen

Dass Algorithmen Menschen mit dunkler Hautfarbe benachteiligen, ist schon länger bekannt. Google-Algorithmen spucken etwa bei der Suche nach „Black Girls“ vor allem Pornoseiten aus. Die ersten Probleme traten bereits im Jahr 2015 auf, als Flickr Menschen mit dunkler Hautfarbe als „Affe“ getaggt hat. Doch das Problem zieht sich weiter: Menschen mit dunkler Hautfarbe bekommen etwa auch bestimmte Job-Angebote nicht angezeigt, weil sie die Algorithmen automatisch aussortieren.