Hunderttausende gefälschte Nacktbilder online geteilt

Über den Messenger-Dienst Telegram wurden Hunderttausende gefälschte Nachtofotos von Frauen verbreitet, wie aus einem neuen Bericht hervorgeht, den das Sicherheitsunternehmen Sensity erstellt hat und von dem die BBC berichtet. Konkret wurde dabei ein Bot verwendet, der automatisiert und mithilfe von künstlicher Intelligenz bekleidete Körperteile durch nackte ersetzt. Sensity berichtet, dass zwischen Juli 2019 und 2020 104.852 Frauen betroffen waren und gefälschte Nacktfotos von ihnen verbreitet wurden. Geteilt wurden sie zum größten Teil abermals in entsprechenden Telegram-Gruppen.

Die ursprünglich harmlosen Fotos wurden dabei aus öffentlich zugänglichen Quellen im Netz - wie etwa Social-Media-Accounts - genommen. Einige Opfer wurden ursprünglich in Badeanzügen fotografiert. Einige trugen T-Shirts und Shorts. Und einige waren sichtlich minderjährig, wie es in der Untersuchung heißt.

Offensiv beworben wurde der Dienst auf dem russischen Facebook-Pendant VK. Die Autoren des Berichts geben an, dass sie ihre Ergebnisse mit Telegram, VK und den zuständigen Strafverfolgungsbehörden geteilt, aber keine Antwort erhalten haben. Auch auf Medienanfragen reagierte Telegram nicht.

Nach wie vor aktiv

Der Bot ist auch nach wie vor auf Telegram aktiv. Nutzer können ihm einfach die Originalfotos schicken und er wandelt sie anschließend in ein gefälschtes Nacktfoto um. Gegen eine Gebühr kann man eine “Premium”-Version mit besseren Ergebnissen, höherer Auflösung und ohne Wasserzeichen verwenden.

Die Funktionsweise ähnelt dabei der Software Deep Nude, die Mitte 2019 für Aufsehen sorgte. Auch sie machte aus gewöhnlichen Fotos von Frauen automatisch Nacktbilder. Der Telegram-Bot scheint auf einer Open-Source-Variante von Deep Nude zu basieren, wie Cnet schreibt. Depp Nude selbst wurde mittlerweile vom dem Netz genommen. 

"Die Innovation hier ist nicht unbedingt die KI in irgendeiner Form", sagte Giorgio Patrini, CEO von Sensity und Mitautor des Berichts. "Es ist nur die Tatsache, dass es viele Menschen erreichen kann und das sehr leicht." Obwohl gefälscht, können die Fotos und ihre Verbreitung schwere Auswirkungen auf Betroffene haben, sie könnten damit massiv unter Druck gesetzt werden. 

Telegram in der Kritik

Telegram steht bereits seit längeren in der Kritik. Die Plattform hat sich immer mehr als Kommunikationsplattform für verschiedene radikale Gruppen etabliert. Verschlüsselung und Fokus auf Privatsphäre machen es schwierig, gegen illegale Inhalte auf der Plattform vorzugehen. Gleichzeitig ist der Aufbau von Telegram so, dass auch Laien sehr schnell einschlägige Communities finden und ihnen beitreten können.