Watching tv

© Getty Images/iStockphoto / TARIK KIZILKAYA/iStockphoto

Apps

Warnung vor KI-App, die Deep Fake Pornos mit einem Click erzeugt

Schon andere KI-Apps, bei denen es von Anfang an darum ging, Frauenbilder in Pornos zu bringen, haben Grenzen klar verletzt. So konnte sich die DeepFake-Technologie überhaupt durchsetzen. Gesichter von weiblichen Prominenten waren auf die Körper von Sex-Arbeiter*innen montiert worden und man war so an gefälschte Celebrity-Pornos gekommen. Rund 90 bis 95 Prozent aller DeepFake-Videos dürften Pornos sein, die ohne Zustimmung der Frauen aufgenommen worden sind, so die Forscher*innen von Technology Review.

Als nächstes kam dann Software, mit der man Frauen automatisiert die Kleidung ausziehen und sie nackt sehen konnte. 6,7 Millionen Visits machen derartige Seiten im Netz monatlich, auf denen der Code derartiger Software veröffentlicht wird.

Ein Klick reicht, Vorkenntnisse unnötig

Doch mittlerweile gibt es DeepFake-Apps, die nicht nur einfach gestaltet sind, sondern auch schwer invasiv in die Privatsphäre von zumeist Frauen eindringen, weil sie von praktisch jedem verwendet werden können. Technology Review hat eine KI-App im Netz ausfindig gemacht, mit der es möglich ist, Bilder mit nur einem Klick in Porno-Videos zu bringen und zwar gänzlich ohne technische Vorkenntnisse jeglicher Art. Derzeit ist die App noch nicht weit verbreitet und hat nur eine kleine User*innen-Basis, aber laut Forscher*innen von Technology Review wird hier eine ethische Linie überschritten, die sich nicht mehr vertreten lässt.

Die App, deren Namen die Forscher*innen nicht nennen wollen, sei aber die erste, mit der man den Gesichtertausch per Klick perfektioniert habe. Damit wird es praktisch jedem möglich, einen Frauenkopf auf einen fremden Körper zu mutieren und im Netz zu verbreiten. Als Basis gibt die App den User*innen einen Haufen Pornovideos mit, großteils von Frauen, einige wenige von schwulen Männern. Der Kopf bzw. das Gesicht wird je nach Belieben reinkopiert und binnen weniger Minuten kann man die ganze Version des Videos runterladen. Bei manchen Videos lässt sich gut erkennen, dass es sich um eine Mutation handelt, bei anderen wiederum überhaupt nicht.

Als Gelegenheitsbetrachter*in solcher Videos kann es passieren, dass man den Unterschied erst einmal nicht merkt. Expert*innen sind außerdem der Meinung, dass es gar keinen Unterschied macht, ob ein Video echt ist, oder manipuliert, zumindest nicht für die Opfer solcher Manipulationen.

Sexuelle Fantasien oder doch Rachepornos?

Die App wirbt damit, dass man auf diese Art und Weise sexuelle Fantasien ausleben könne, und die Seite lädt User*innen zudem dazu ein, ihr eigenes Gesicht hochzuladen. Nichtsdestotrotz wird das a) in den wenigsten Fällen gemacht und b) gibt es keine Schranken, die verhindern, dass man fremde Gesichter etwa von Frauen, die nichts davon wissen, hochlädt. Für diese ist es genauso schlimm wie Rachepornos, wenn diese Videos über sie im Netz auftauchen. Es fühlt sich wie Missbrauch an. Außerdem gilt auch hier: Was einmal im Netz ist, ist nur schwer wieder rauszukriegen. Mit den Folgen müssen die Opfer zudem ein Leben lang leben.

Manchmal ist es für die Opfer auch schwieriger, damit umzugehen als etwa bei Rachevideos. Sie wissen schließlich, dass sie nichts gemacht haben, wofür sie sich im Nachhinein vielleicht schämen müssten oder zumindest darüber ärgern, dass sie es gemacht haben. Laut Technology Review sei es daher schwer für sie, damit umzugehen und das Erlebte zu verarbeiten.

Die Website der besagten App ist mittlerweile offline. Aber es war sicher nicht das letzte Mal, das ein derartiges Tool entstanden ist, denn die technologische Entwicklung lässt sich nicht so einfach aufhalten.

Von Social Media verbannen

Eine Lösung wäre es laut Expert*innen, derartige Inhalte von Social-Media-Kanälen zu verbannen, so dass die Inhalte zumindest keine große Reichweite erhalten. Das würde dazu führen, dass die Inhalte zumindest „aus den Augen des täglichen Lebens“ der meisten Menschen verschwinden würden, heißt es. Allerdings würden die Inhalte weiter im Netz bleiben und stattdessen über andere Kanäle verbreitet.

Wer hinter der besagten App steckt, ließ sich übrigens nicht herausfinden. Wer die Website registriert hat, hat diese vor den Augen der Öffentlichkeit geschützt. Privatsphäre halt, so wichtig.

Hat dir der Artikel gefallen? Jetzt teilen!

Barbara Wimmer

shroombab

Preisgekrönte Journalistin, Autorin und Speakerin. Seit November 2010 bei der Kurier-Futurezone. Schreibt und spricht über Netzpolitik, Datenschutz, Algorithmen, Künstliche Intelligenz, Social Media, Digitales und alles, was (vermeintlich) smart ist.

mehr lesen Barbara Wimmer

Kommentare