Facebook-KI spielt verrückt: Kindersoldaten- und NSFW-Emojis

Vor einigen Tagen hat Mark Zuckerberg ganz stolz die Meta AI präsentiert. Die Künstliche Intelligenz des Facebook-Konzerns, soll so etwas wie ein Assistent sein, der einem im Alltag unterstützt. Neben diesen blumigen Marketing-Sprüchen könne die Meta AI auch ganz individuelle und personalisierte Sticker und Emojis erstellen.

Zunächst soll diese Funktion für einige US-Nutzer*innen im Facebook Messenger zur Verfügung gestellt werden, hieß es auf der hauseigenen Konferenz Meta Connect. Seit Dienstagabend ist das AI-Feature nun verfügbar. Und es sorgt für ordentlichen Wirbel.

➤ Mehr lesen: So könnt ihr 2 Emojis miteinander verschmelzen lassen

Absurdeste Messenger-Sticker fluten das Netz

Was sich eigentlich nach einer lustigen Funktion anhört, die das Kommunizieren bereichern soll, ist bei seiner Premiere ziemlich in die Hose gegangen. Die KI nimmt seine User*innen nämlich etwas zu wörtlich.

Seit das Feature freigeschaltet ist, werden die sozialen Netzwerke mit den absurdesten und kuriosesten Messenger-Sticker geflutet: beispielsweise ein Karl Marx mit riesigen Brüsten, bewaffnete Kindersoldaten, Luigi aus der Super-Mario-Reihe mit einem Sturmgewehr, eine kiffende Hello Kitty oder Joe Biden, der mit Donald Trump schmust.

➤ Mehr lesen: Keine Fremdsprachen mehr nötig - KI wird zum Wunder-Übersetzer

NSFW-Sticker 

Auch einige NSFW-Sticker wurden der Messenger-KI generiert, was für das sonst so prüde und restriktive Meta-Ökosystem ziemlich ungewöhnlich ist: Etwa der kanadische Premierminister Justin Trudeau, der sein pralles und nacktes Hinterteil in einer erotischen Pose präsentiert.

Auch Sonic mit expliziten Brüsten; Pikachu, der gerade gestillt wird oder Micky Maus, die auf der Toilette sitzt, sind auch darunter. Außerdem gibt es noch zahlreiche Politiker*innen - Joe Biden, Hillary Clinton, Wladimir Putin oder Xi Jinping - die recht freizügig dargestellt werden.

➤ Mehr lesen: Ich habe 16 Bilder-KIs getestet, damit ihr es nicht tun müsst

Ohne Beschränkungen auf User*innen losgelassen

Es ist unverständlich und auch unverantwortlich, dass ein Milliardenunternehmen wie Meta eine Künstliche Intelligenz in dieser Weise für die Öffentlichkeit freischaltet. Die Darstellungen der Politiker*innen haben beispielsweise das Zeug, eine internationale Krise auszulösen. Abgesehen davon ist von beleidigenden, verletzenden und ungustiösen Stickern alles mit dabei.

In einem Blogpost mit dem Titel "Generative KI-Funktionen verantwortungsbewusst entwickeln" schreibt Meta unter anderem: "Wie bei allen generativen KI-Systemen können die Modelle ungenaue oder unangemessene Ergebnisse liefern. Wir werden diese Funktionen weiter verbessern."

Dennoch mutet es ungewöhnlich an, dass die Messenger-KI ohne entsprechende Beschränkungen und ohne Leitplanken den User*innen zur Verfügung gestellt wurde. OpenAI hat für Dall-E2 beispielsweise Beschränkungen eingebaut, sodass allzu freizügige Bilder verhindert werden sollen.