KI-Pornobilder von Stars: So ist die Gesetzeslage in Österreich

Taylor Swift gilt derzeit als größter Popstar der Welt. Abseits ihrer Musik sorgen derzeit gefälschte Nacktbilder von der Sängerin für Aufsehen. Erstellt wurden sie mithilfe einer künstlichen Intelligenz (KI). Diese Bilder wurden von Tausenden Nutzern auf X (vormals Twitter) unter dem Suchbegriff „#TaylorSwiftAI“ verbreitet und millionenfach angeschaut.

Such-Sperre als Notbremse

17 Stunden benötigte X für die Entfernung des ursprünglichen Beitrags. Kopien von den Bildern geistern nach wie vor im Internet herum. Die Bilder wurden wahrscheinlich mit einem frei verfügbaren Bildgenerator von Microsoft erstellt, wie US-Journalisten herausfanden. Swift-Fans wollten sich die übergriffige Kampagne gegen „ihren“ Star nicht gefallen lassen und setzten auf Gegenangriff: Ebenfalls unter dem Suchbegriff #TaylorSwiftAI verbreiteten sie Bilder von Konzertauftritten der Sängerin. Später sperrte X die Suche nach #TaylorSwiftAI und verwandten Suchbegriffe vollständig, andere soziale Medien folgten. Mittlerweile darf man wieder nach der Sängerin suchen.

➤ Mehr lesen: Audiokassetten erleben in den USA Revival

Aufgrund dieser Causa diskutiert man in den USA jetzt über ein neues Gesetz: Personen sollen direkt klagen können, wenn gefälschte Nacktbilder von ihnen geteilt werden. Opfer sollen von jedem Schadenersatz fordern können, der das Bild „wissentlich hergestellt oder besessen“ hat. Der Swift-Fall zeige laut den Initiatoren, wie KI-Bilder missbraucht werden können, um Prominente zu schädigen. Technologisch sind die KI-Bildgeneratoren mittlerweile so ausgefeilt, dass die Ergebnisse kaum mehr von echten Fotos unterscheidbar sind. Hinter der Software steht eine spezielle Art von KI, namens Generative Adversarial Networks (erzeugende gegnerische Netzwerke). Damit können Gesichter basierend auf echten Vorlagen neu erzeugt werden. Sogar Videos mit sprechenden Menschen lassen auf diese Weise einfach produzieren.

Wer ist schuld?

Auch österreichische Stars könnten vergleichbare Kampagnen erleben – auch wenn das grundsätzlich nicht legal ist, wie Rechtsanwalt Florian Prischl erklärt. Fraglich sei allerdings, was Betroffene tun können und ob das sogenannte Recht am eigenen Bild hier gilt: „Hier hinkt das Gesetz der KI möglicherweise hinterher: Das Strafrecht erfordert, dass es ein Bild der Person sein muss. Wenn es allerdings ein Computer auf Basis eines Textes fabriziert, bin ich skeptisch, ob das aktuell gesetzlich zählen würde,“ erklärt Prischl.

Würden Bilder von einem österreichischen Promi, wie z.B. der Sängerin Melissa Naschenweng, auf X geteilt, müsste sie selbst den Ersteller klagen. Stecken viele Täter*innen in mehreren Ländern dahinter wie bei Swift, wird das sehr schwierig. Die Firma wiederum, die den KI-Bildgenerator betreibt, treffe wahrscheinlich keine Schuld: „Auch Fotokameras werden schließlich für illegale Zwecke missbraucht“, erklärt Prischl. Auch hier könne man etwa Canon oder Nikon nicht dafür zur Verantwortung ziehen. Für die Verbreitungsplattformen wie X würden mit dem neuen Digital Services Act ohnehin strenge Regeln gelten, sagt der Rechtsanwalt.

Ein Gesetz wie in den USA, hält er bei uns nicht für notwendig – dafür würden auch bisherige Regelungen reichen: „Wenn eine Person wegen eines solchen Bilds etwa erhebliche wirtschaftliche Nachteile hat, wird das Gericht in der Praxis vermutlich zugunsten dieser Person entscheiden“, sagt er.