US-POLITICS-RACISM-PROTEST

© APA/AFP/VALERIE MACON / VALERIE MACON

Digital Life
07/02/2020

MIT löscht Datensatz für rassistische künstliche Intelligenz

Die Eliteuniversität hat sich für einen Datensatz entschuldigt, der zu sexistischer und rassistischer Software führte.

Das Massachusetts Institute of Technology (MIT) hat einen massiven Datensatz entfernt, der künstlicher Intelligenz rassistische und frauenverachtende Begriffe beigebracht hat. Der Datensatz wird als „80 Million Tiny Images“ bezeichnet und wurde 2008 entwickelt. Die Universität entschuldigte sich zudem bei allen Betroffenen.

Ursprünglich sollten damit die Techniken zur Personen- und Objekterkennung optimiert werden - der Datensatz resultierte aber vielmehr in Rassismus und Sexismus. So wurden Frauen in Bikinis oft mit dem Begriff „Bitch“ und afro-amerikanische oder asiatische Menschen mit abfälligen Begriffen in Zusammenhang gebracht.

Sexistische Chatbots

Laut Vinay Prabhu vom Start-up UnifyID und Abeba Birhane vom University College Dublin weise das System massive Probleme auf, wie The Next Web schreibt. Ihnen zufolge wären Sexismus und Rassismus Folge bei jeder künstlichen Intelligenz, die auf diesem Datensatz basiert. Unter anderem könnten sexistische und rassistische Chatbots sowie Software das Ergebnis dessen Nutzung sein.

Nachdem The Register die Universität auf die Defizite aufmerksam machte, entfernte das MIT den Datensatz und forderte Forscher und Entwickler dazu auf, ihn nicht weiterzuverwenden und Kopien zu löschen. Laut dem Forschungsinstitut war das Problem eine Folge der automatisierten Datensammlung, die auf Hauptwörter des Internet-Lexikons WordNet basieren und rassistischen und sexistischen Sprachgebrauch im Internet abbildete.