Porno-Skandal um Elon Musks Grok: Was ihr dazu wissen müsst
Es ist nicht das erste Mal, dass Elon Musks KI-Tool “Grok” für eine Welle an Kritik sorgt. Die KI aus dem Hause xAi hat in der Vergangenheit mit antisemitischen Aussagen und der Verbreitung von Falschinformationen für Empörung gesorgt.
In den vergangenen Wochen tauchten aber immer mehr Bilder von Frauen und teils auch Minderjährigen auf, die sexualisiert wurden. Dabei handelt es sich um Deepfakes von echten Menschen, deren Fotos ohne Einverständnis für diese Zwecke missbraucht wurden.
➤ Mehr lesen: Elon Musks Chatbot Grok stellt Zahlen zu Holocaust in Frage
Was bisher geschah
Grok ist ein KI-Tool, das 2023 veröffentlicht wurde. Im Sommer 2025 hat Elon Musk stolz verkündet, dass Grok Imagine mit einem “Spicy Mode” ausgestattet wurde. Damit ist es möglich, sogenannte “Not Safe For Work-Inhalte” zu erstellen. Musk will damit für mehr Meinungsfreiheit und weniger Zensur sorgen. Das damals neue Tool sorgte dann aber dafür, dass Nacktfotos von Prominenten wie Taylor Swift generiert wurden.
➤ Mehr lesen: Elon Musks KI generiert ungefragt Nacktvideo von Taylor Swift
Erst vor kurzem, also Ende Dezember 2025, hat Grok ein Update bekommen. Damit wurde es möglich, nicht nur Bilder zu generieren, sondern auch andere Fotos ohne Genehmigung zu bearbeiten. Dadurch wurde in den vergangenen Wochen ein “Trend” ausgelöst und zahlreiche Nutzer haben die KI gebeten, die Kleidung von Frauen auf Fotos zu entfernen. Betroffen waren auch Prominente, wie die Stranger Things-Darstellerin Millie Bobby Brown.
Tausende Deepfakes wurden generiert
Bei einer Stichprobe vom 5. Bis 6. Jänner wurden schätzungsweise 6.700 solcher Deepfakes pro Stunde generiert. Bloomberg berichtete beispielsweise von einer jungen Frau, die ein bearbeitetes Bild von sich im Internet fand. Sie hatte zuvor ein Foto mit ihrem Freund auf x gepostet.
Ein Nutzer forderte Grok daraufhin auf, ihren Freund zu entfernen und sie im Bikini darzustellen. Ein weiterer forderte die KI dann auf, den Bikini durch Zahnseide zu ersetzen. Die junge Frau hat dann versucht, das Bild zu melden, doch laut x haben die Bilder nicht gegen die Regeln von x verstoßen, weshalb die Bilder noch online blieben.
Der Unterschied zwischen Grok auf x und der Grok-Website
Grok kann auf x genutzt werden, um Bilder zu generieren oder zu bearbeiten. Was dort erstellt wird, wird dann auch auf der Social-Media-Plattform automatisch geteilt. Dort sind keine vollständigen Nacktdarstellungen möglich.
Es gibt aber auch eine separate Grok-Website bzw. App, die unabhängig von x funktioniert. Bei Letzterem ist es möglich, “extreme sexuelle Darstellungen und teils gewalttätige Inhalte” zu erstellen.
Auch Minderjährige betroffen
Wie The Wire berichtet hat, werden dort beispielsweise Videos erstellt, wo eine Frau mit einem Messer in ihrem Genitalbereich gezeigt wird und Blut an ihren Beinen zu sehen ist. Die NGO AI Forensics hat die dort erstellten Inhalte mit Hilfe von archivierten Imagine-URLs analysiert. Es wurden 800 von Grok Imagine erstellte Bilder und Videos gefunden, die pornografische Inhalte darstellten, wie auch der Guardian berichtet hat. Auf 2 Prozent der Bilder wurden Personen dargestellt, die schätzungsweise 18 Jahre oder jünger sind.
„Meistens handelt es sich um Hentai, aber es gibt auch Fälle, in denen fotorealistische, sehr junge Menschen sexuelle Handlungen ausüben“, sagt Paul Bouchaud, leitender Forscher bei AI Forensics gegenüber The Wire. Er habe auch einige Videos gesichtet, in denen sich “extrem junge Frauen” ausziehen und mit Männern sexuelle Handlungen ausüben.
Auch die britische Internet Watch Foundation (IWF) hat bestätigt, dass Nutzer in einem Dark-Web-Forum damit angegeben haben, mit Grok Imagine sexualisierte Bilder von Mädchen zwischen 11 und 13 Jahren erstellt zu haben.
➤ Mehr lesen: Musks KI sorgt mit sexualisierten Bildern von Kindern für Empörung
Warum das technisch möglich ist
Im Zeitalter der KI ist es keine Herausforderung mehr, solche Inhalte zu erstellen. Alles, was man bisher gebraucht hat, war ein Foto einer Person, Grok und einen Prompt, der vorgibt, was die KI damit anstellen soll. Grok befolgt die Anweisungen, auch wenn die KI Minderjährige identifizieren kann.
Theoretisch ist das auch mit anderen KI-Tools von Unternehmen wie OpenAI, Google oder Anthropic möglich. Und auch andere Plattformen kämpfen mit dem Missbrauch ihrer Tools. Diese nutzen aber strengere Sicherheitsfilter, wodurch Nutzer daran gehindert werden, solche Bilder zu erstellen.
Musk und xAI betonen auch, gegen illegale Inhalte vorzugehen. Pornografische Inhalte sind zwar erlaubt, die pornografische Darstellung von realen Personen aber nicht. Auch „die Sexualisierung oder Ausbeutung von Kindern“ oder „alle illegalen, schädlichen oder missbräuchlichen Aktivitäten“ sind nach den Richtlinien von xAI eigentlich verboten. Verstoßen Nutzer gegen die Richtlinien, sollen Inhalte entfernt oder die betroffenen Accounts blockiert werden. Doch wie CNN berichtet hat, wurde das verantwortliche Sicherheitsteam aufgrund von Kündigungen immer kleiner.
Auch Open AI möchte eine “Erwachsenen Modus” für ChatGPT im ersten Quartal dieses Jahres veröffentlichen. Die “Verwendung des Abbilds einer Person, einschließlich ihres fotorealistischen Bildes oder ihrer Stimme, ohne deren Zustimmung in einer Weise, die zu Verwechslungen hinsichtlich der Authentizität führen könnte“, sei aber verboten.
Internationale Welle der Empörung
International sorgten die von der KI bearbeiteten und teilweise verbreiteten Bilder für Empörung. Großbritannien hat beispielsweise in Erwägung gezogen, x in diesem Land komplett zu verbieten. Verschiedene Behörden in Indien, Malaysia und Europa haben Ermittlungen angekündigt und eingeleitet.
Elon Musk hat sich und seine Unternehmen scheinbar bisher nicht in der Verantwortung gesehen, eine Erstellung solcher Inhalte zu unterbinden. Es sollen vor allem jene bestraft werden, die solche Anfragen stellen: „Jeder, der Grok nutzt, um illegale Inhalte zu erstellen, muss mit denselben Konsequenzen rechnen, als würde er illegale Inhalte hochladen“, erklärte Musk in einem Beitrag vom 3. Januar auf x.
Wie der Guardian berichtet, hat xAI jetzt gehandelt. „Die Erstellung und Bearbeitung von Bildern sind derzeit auf zahlende Abonnenten beschränkt“, heißt es von Grok. Um die Funktion nutzen zu können, muss man also persönliche und Kreditkarteninformationen preisgeben. Dadurch sind weit weniger Menschen in der Lage, solche Inhalte zu erstellen. Wer dann illegale Bilder kreiert, kann leichter ausgeforscht werden. Ob xAI damit aus dem Schneider ist wird sich zeigen.