Musks KI sorgt mit sexualisierten Bildern von Kindern für Empörung

Die KI namens Grok auf der Social-Media-Plattform X von Elon Musk hat wegen der Erstellung sexualisierter Bilder von Minderjährigen eine Welle der Empörung ausgelöst. Bislang war es möglich, Grok dazu aufzufordern, freizügige Bilder von Menschen zu generieren - auch von Minderjährigen. 

Nutzer konnten harmlose Fotos von Personen hochladen und die KI erstellte daraus sexualisierte Bilder. Besonders problematisch war, dass Grok sich offenbar bewusst war, dass es sich dabei um Kinder oder Teenager handelt. Die KI wurde nämlich gefragt, wie alt die Personen auf den Bildern ungefähr seien. Daraufhin meinte Grok - je nach Bild - die Personen seien zwischen 1 und 17 Jahre alt.

➤ Mehr lesen: Das hat uns Elon Musk für 2025 versprochen, aber nicht eingehalten

Strafanzeige erstattet

Nach einem internationalen Aufschrei, kam es zu zahlreichen Reaktionen: In Frankreich haben Minister beispielsweise eine Strafanzeige gegen X erstattet und bezeichneten die "sexuellen und sexistischen" Inhalte als "offensichtlich illegal", während Indien dringend Aufklärung fordert. 

➤ Mehr lesen: So viel kostet es, wenn man Elon Musk ins Robotaxi kotzt

Musk reagiert mit Lach-Emojis

Musk selbst reagierte auf die Kontroverse mit Lach-Emojis. Experten zufolge war diese Entwicklung vorhersehbar. Sie hatten das Unternehmen xAI von Musk bereits vor einem möglichen Missbrauch der Technologie gewarnt.

Es seien "Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt" worden, schreibt Grok selbst in einem Posting auf X. Diese sollten nun "mit größter Dringlichkeit" behoben werden. "Die Verbreitung von kinderpornografischem Material ist illegal und verboten", stellte die KI selbst fest.

➤ Mehr lesen: OpenAI-Manager: Diese 3 Jobs wird die KI komplett übernehmen