Lensa AI macht aus mir eine "Wichsvorlage"

Auf Instagram werden gerade sehr viele „magische Bilder“ geteilt, die Menschen als Feen, Kämpfer*innen, in malerischen Landschaften oder als Pop Art darstellen. Der Grund dafür ist eine Foto-App, die mit künstlicher Intelligenz (KI) arbeitet.

Um Lensa AI von Prisma Labs baut sich gerade ein regelrechter Hype auf. Die App ist sowohl im Play Store als auch im App Store eine der am häufigsten nachgefragtesten Apps. Offenbar sind generierte Kunst-Porträts, die einem ähnlich schauen, ein großes Ding.

Lensa AIs Avatare ausprobiert

Dieser Trend hat mich selbst neugierig gemacht. Ich wollte die App ausprobieren und habe deshalb 9,99 Euro dafür gezahlt, 100 „magische Avatare“ von mir zu bekommen. Das Ergebnis: Ich habe 100 Kunst-Porträt-Bilder einer KI von mir, von denen rund 90 lediglich als Wichsvorlage für heiße Männerträume taugen.

Bei 2 Bildern, die die KI erzeugt hatte, war sogar mein Kopf abgeschnitten und der Fokus rein auf meine Brüste gelegt. Bei einem anderen Bild fährt mein künstlich generiertes Abbild sich in einem kurzen Sommerkleidchen lasziv zwischen die Beine. Bei einem weiteren Bild ist das sexy lila Kleid so verrutscht, dass die Brüste fast bis zum Nippel freigelegt sind.

Offenbar bin ich nicht die Einzige, die derartige Bilder ausgespuckt bekam.

Vorlagen waren nicht lasziv

Männer, denen ich die Bilder zeigte, fanden sie sexy. „Ich weiß nicht, was du hast. Die sind doch geil.“ Ja, sind sie. Und genau das ist das Problem. Ich hatte Lensa AI nämlich nicht mit derartigen Grundlagen gefüttert. Stattdessen hatte ich mehrere Bilder von mir mit schwarzem Hoodie und schwarzem T-Shirt hochgeladen, andere zeigten mich beim Wandern oder Spazierengehen. Ein Bild war dabei, da stand ich am See in einem Trägerkleid, das mir allerdings bis zu den Knöcheln ging.

Deswegen hat Lensa AI auch tatsächlich die Proportionen meines Körpers gut getroffen. Aber ich gab der KI keinen Grund, mich auf diese Art und Weise darzustellen. In 2 Bildern hatte ich mein Buch in der Hand, um der KI zu zeigen, was meine Interessen sind. Das wurde tunlichst ignoriert.

Feedback seitens des App-Herstellers

In der App gibt es eine Funktion „Ich bin mit den Bildern nicht zufrieden“. Diese betätigte ich und schrieb an Lensa AI eine Mail, in der ich erklärte, dass ich von dem männlichen Blickwinkel meiner Person und der Darstellung meiner Brüste mit abgeschnittenem Kopf unzufrieden sei.

Zurück kam nicht einmal eine Minute später eine automatisierte Antwort: „Danke, dass Sie uns kontaktieren. Es tut uns leid, dass sie die Ergebnisse nicht mögen. Die finalen Fotos mögen Artefakte enthalten. Wir können die Arbeit der KI nicht voll kontrollieren und wir haben Sie auch davor gewarnt.  (…) Wir können leider den Kauf nicht rückgängig machen.“ Die erwähnten Artefakte waren in den Bildern auch zu sehen (in etwa 2 von 100), die haben allerdings nicht weiter gestört. Ich habe die App von meinem Smartphone nach dem Feedback gelöscht.

Die Trainingsdaten sind das Problem

Doch was steckt dahinter? Warum erzeugt die KI derart sexistische Bilder von meiner Person, ohne, dass ich so eine Vorlage eingeschickt hatte? Ganz einfach. Lensa AI wurde mit derartigen Vorlagen trainiert.

Die KI-Grundlage der App basiert auf dem Open-Source-Machine-Learning-Modell Stable Diffusion. Lensa AI bzw. Prisma Labs ist nur der „Mittelsmann“, der für diese Porträts Geld kassiert. Stable Diffusion wurde mit Millionen von öffentlich verfügbaren Bildern unterschiedlicher Kunst-Stile trainiert, darunter auch offenbar zahlreiche, die den typischen „männlichen Blickwinkel“ auf eine Frau repräsentieren.

Missbrauch ohne Zustimmung

Da derzeit sehr viele Menschen mit der App herumspielen, gab es auch schon welche, die Aktfotos hochgeladen haben (das ist allerdings laut den AGB verboten). In diesen Fällen hat Lensa AI auch selbst Aktfotos ausgespuckt. Stable Diffusion wurde offenbar also auch mit diesem Material trainiert. Das führt in der Folge zu weiteren, massiven Problemen, die die App mit sich bringt, das wir bereits von Deep Fakes kennen: Man nimmt Fotos von Promis, lädt sie hoch, und bekommt dann zahlreiche, laszive Kunst-Darstellungen, die dem Promi irgendwie ähnlich sehen. Verbreitet man diese etwa weiter, befindet man sich in einer rechtlichen Grauzone. Und viel schlimmer: Die Betroffenen haben dieser Art der Datenverarbeitung in keinster Weise je zugestimmt. Es findet gegen ihren Willen statt.

Datenschützer warnen zudem davor, dass unklar sei, was mit den hochgeladenen Fotos von einem passiert, mit denen man die KI füttert. Offiziell schreibt Lensa AI, dass die Daten nach dem Hochladen sofort von den Servern gelöscht werden. Doch die Daten werden von der Stable Diffusion KI verarbeitet und demnach trainiert man die KI dann mit seinen eingegebenen Daten. Noch ein Grund dafür, bei diesem Hype gar nicht erst mitzumachen, und die App nicht auszuprobieren.