Elon Musks KI generiert ungefragt Nacktvideo von Taylor Swift

Elon Musk hat mit seinem Unternehmen xAI am Wochenende einen neuen KI-Bild- und Videogenerator vorgestellt. Das Tool heißt Grok Imagine. 

Bereits kurz nach der Veröffentlichung ist es in die Kritik geraten. Denn es verfügt kaum über Schutzmaßnahmen, um die Erstellung von sexualisierten Deepfakes zu verhindern, wie mashable berichtet. 

Ein paar Klicks und Taylor Swift ist nackt zu sehen 

Mit Grok Imagine können Nutzerinnen und Nutzer Bilder erstellen, auch solche, auf denen Prominente zu sehen sind. Die KI verfügt über 4 Einstellungen. Eine davon wird “spicy” genannt und von Elon Musk beworben. Zur Veröffentlichung des KI-Tools teilte er beispielsweise ein von Grok Imagine generiertes Video einer blonden, blauäugigen Frau mit großer Oberweite in hauchdünner Unterwäsche.

The Verge hat das Tool ebenfalls getestet und Grok Imagine hat ohne zu Zögern nicht jugendfreie Inhalte und Deepfakes von Prominenten generiert. Beispielsweise lieferte das KI-Tool Oben-ohne-Videos von Taylor Swift. Und das, obwohl in dem eingegebenen Prompt nicht einmal darum gebeten wurde. 

Der Prompt lautete: “Generiere ein Bild, indem Taylor Swift Coachella mit den Jungs feiert”. Daraufhin bekam die Autorin 30 Bilder von Swift. Im Anschluss wollte sie ein Video mit der “spicy”-Einstellung generieren lassen. Zwar musste sie dann ihr Geburtsjahr bestätigen, bekam dann aber gleich ein Video, in dem sich Swift die Kleider vom Körper reißt. Immerhin stellt Grok Imagine im Test die fotorealistischen Bilder von Kindern mit der Spicy-Funktion nicht nackt dar, heißt es von der Autorin. 

➤ Mehr lesen: Musk will “Baby Grok” für Kinder herausbringen

Sicherheitsvorkehrungen von Google und OpenAI 

Normalerweise gibt es bei KI-Unternehmen Regeln, die es Nutzerinnen und Nutzern verbieten, potenziell schädliches Material zu erstellen. Dazu zählen sexuelle Inhalte oder Deepfakes von Prominenten. Bei Google ist beispielsweise die Produktion von “sexuell eindeutigen” Inhalten verboten.

In einem Blogpost von OpenAI heißt es dazu: „Unsere oberste Priorität ist es, besonders schädliche Formen des Missbrauchs, wie Material über sexuellen Kindesmissbrauch (CSAM) und sexualisierte Deepfakes, zu verhindern, indem wir deren Erstellung blockieren, Uploads filtern und überwachen, fortschrittliche Erkennungswerkzeuge einsetzen und Berichte an das National Center for Missing & Exploited Children (NCMEC) übermitteln, wenn CSAM oder eine Gefährdung von Kindern festgestellt wird.“ Die Sicherheitsvorkehrungen von OpenAI und Google halten viele Expertinnen und Experten dennoch für unzureichend. 

➤ Mehr lesen: xAI drängt Angestellte dazu, Spähsoftware zu installieren

Fehlende Sicherheitsvorkehrungen bei xAI 

Über solche branchenüblichen Sicherheitsvorkehrungen, die verhindern, dass Deepfakes und sexualisierte Inhalte erstellt werden, verfügt Grok Imagine erst gar nicht. Die xAI-Richtlinie besteht aus weniger als 350 Wörtern und überträgt die Verantwortung auf Nutzerinnen und Nutzer.

Es heißt dort: „Sie können unseren Dienst nach eigenem Ermessen nutzen, solange Sie ihn dazu verwenden, ein guter Mensch zu sein, sich sicher und verantwortungsbewusst zu verhalten, die Gesetze einzuhalten, anderen Menschen keinen Schaden zuzufügen und unsere Leitlinien zu respektieren.“

➤ Mehr lesen: Grok wird bald in Tesla-Fahrzeuge integriert 

Um das Tool zu testen, braucht man ein Abo

Donald Trump hat vor kurzem den “Take it Down Act” unterzeichnet. Dieser enthält auch Schutzmaßnahmen gegen Deepfakes. Das Gesetz stellt die Verbreitung oder die Androhung der Verbreitung nicht-konsensueller intimer Bilder unter Strafe, nicht allerdings die Erstellung. Plattformen müssen Beschwerden wegen solcher Darstellungen innerhalb von 48 Stunden prüfen und diese ggf. entfernen.

Wer Grok Imagine testen will, braucht ein xAI Premium Plus- oder SuperGrok Abo. Seit Montag wurden laut Elon Musk mehr als 34 Millionen Bilder damit kreiert. Darunter finden sich auch Deepfakes von Prominenten, etwa ein Video von Donald Trump und Barack Obama im Regenbogenanzug, die sich auf einer Chippendales-Bühne küssen.