© Screenshot

Digital Life
06/17/2019

Mozilla entwickelt KI, die Penis-Zeichnungen erkennt

Mit dem Projekt will man gegen die KI-Entwicklungen großer Konzerne wie Google und Facebook protestieren.

Die Mozilla-Stiftung hat ein niederländisches Design-Studio mit der Entwicklung einer KI beauftragt, die Penis-Zeichnungen erkennen kann. Die Web-App ermöglicht es Nutzern, beliebige Objekte zu zeichnen. Wenn es sich andeutet, dass es sich bei der Zeichnung um ein männliches Geschlechtsteil handeln könnte, radiert das Programm die Zeichnung selbstständig weg und ermahnt den Nutzer. Warnungen wie „Hast du dir das gut überlegt?“, „Wir nehmen einmal an, dass das ein Versehen war“ oder „Geh mit der freien Meinungsäußerung nicht zu weit“ sind auf dem Bildschirm zu lesen.

Protest gegen Google und Co.

Was zunächst absurd klingt, hat einen durchaus ernsten Hintergrund. Die Mozilla-Stiftung, die unter anderem für die Entwicklung des Web-Browsers Firefox verantwortlich ist, will damit gegen fragwürdige moralischen Standards protestieren, die bereits Teil vieler moderner KI-Experimente sind. Ausgangspunkt war Googles KI-Spiel „Quick, Draw!“, das bereits 2016 veröffentlicht wurde. Nutzer mussten etwas zeichnen und die KI versuchte nebenher zu erraten, worum es sich handelt. Das Experiment war ein großer Erfolg, mehr als 15 Millionen Menschen nahmen daran teil.

Doch kurioserweise scheint die KI bestimmte Objekte nicht zu erkennen, unter anderem ein besonders beliebtes Motiv: den Penis. Ein scheinbar unschuldiges Detail, das jedoch in Anbetracht der Reichweite großer Technologie-Konzerne wie Google, Facebook und Apple aber schwerwiegende Folgen haben kann. „Wir glauben nicht, dass der moralische Kompass in den Händen der großen Technologie-Konzerne liegen sollte“, so Roel Wouters, der beim Design-Studio Moniker für die Umsetzung des Projekts verantwortlich war. „Wir stellen die Tatsache in Frage, dass wir, ohne es zu bemerken, die Verantwortung über unsere soziale Infrastruktur hergegeben haben, im Austausch für ‚kostenlose“ Dienste.“

Obwohl Technologien wie Googles KI-Software TensorFlow ein nützliches und sinnvolles Werkzeug seien, solle man sich dennoch die Frage stellen, ob man tatsächlich weltweit das gleiche Regelwerk anwenden sollte. „Für uns ist das Zeichnen eines Penis ein unbeschwertes Symbol für einen rebellischen Akt“, sagt Wouters.