Algorithmen konnten anhand eines Datensatzes mit 100.000 Videoclips trainiert werden

© Facebook

Digital Life
06/12/2020

Facebook zeigt, wie schwer man Deepfakes erkennt

Auch der Gewinner-Algorithmus der „Deepfake Detection Challenge“ hatte Probleme dabei, gefälschte Videos zu identifizieren.

Man kann seinen Augen nicht mehr trauen, zumindest nicht, wenn es um Bilder und Videos im Internet geht. Denn Deepfakes, also manipulierte Videos, sind inzwischen mit zahlreichen Hilfsmitteln erstellbar. Facebook und Microsoft hatten daher einen offenen Wettbewerb gestartet, bei dem Nutzer Algorithmen einreichen konnten, die solche manipulierten Videos erkennen können. Der Gewinner erhielt ein Preisgeld von 500.000 US-Dollar.

In solchen Videos taucht plötzlich Sebastian Kurz beim Songcontest auf und Arnold Schwarzenegger übernimmt die Rolle von Javier Bardem in „No Country for Old Men“. Das sind die harmloseren Fälle. Insbesondere in den USA, wo noch heuer die Präsidentschaftswahl ansteht, fürchtet man, die Technologie könnte zur Manipulation eingesetzt werden. Der Contest sollte dabei helfen, das zukünftig zu verhindern. 

Genauigkeit knapp über 65 Prozent

Die Ergebnisse des Wettbewerbs hat Facebook nun veröffentlicht. Das Sieger-Programm konnte Deepfakes mit einer Genauigkeit von 65,18 Prozent erkennen - ein ernüchterndes Ergebnis. Facebooks Technik-Chef, Mike Schropefer, zeigte sich laut The Verge in einer Pressekonferenz allerdings zufrieden. Die eingereichten Programme könnten Forschern in Zukunft eine wichtige Unterstützung bieten, sagt er.

Insgesamt hatten 2.114 Teilnehmer über 35.000 Algorithmen eingereicht. Im Test wurde geprüft, wie viele der ungefähr 100.000 kurzen Video-Clips aus der Facebook-Datenbank sie korrekt als Deepfakes identifizieren konnten. Die Clips wurden mithilfe von 3.000 Schauspielern erzeugt, um möglichst realistische Szenarien abzubilden. Eine künstliche Intelligenz veränderte anschließend einige dieser Videos und setzte die Gesichter der Schauspieler auf andere Körper.

Facebook arbeitet an eigener Software

Diese Datenbank wurde dann Forschern zur Verfügung gestellt, damit diese ihre Algorithmen trainieren konnten. Hier konnte der Sieger-Algorithmus eine Genauigkeit von 82,56 Prozent erreichen. Dieses Ergebnis wurde allerdings schlechter, wenn der Algorithmus Videomaterial analysierte, auf das er zuvor nicht trainiert wurde. So sank die Trefferquote auf 65,18 Prozent. Die Software soll als open-source Programm veröffentlicht werden.

Facebook arbeitet derzeit selbst an einer Software, die Deepfakes erkennen soll. Hier sollen laut Schroepfer die Ergebnisse des Wettbewerbs mit einfließen. Allerdings seien Deepfakes „kein großes Problem“ für die Social-Media-Plattform, sagte er. Bereits im Jänner hatte Facebook Deepfakes auf der eigenen Plattform verboten, da Manipulation bei der US-Wahl verhindert werden soll.