Algorithmen konnten anhand eines Datensatzes mit 100.000 Videoclips trainiert werden
Facebook zeigt, wie schwer man Deepfakes erkennt
Dieser Artikel ist älter als ein Jahr!
Man kann seinen Augen nicht mehr trauen, zumindest nicht, wenn es um Bilder und Videos im Internet geht. Denn Deepfakes, also manipulierte Videos, sind inzwischen mit zahlreichen Hilfsmitteln erstellbar. Facebook und Microsoft hatten daher einen offenen Wettbewerb gestartet, bei dem Nutzer Algorithmen einreichen konnten, die solche manipulierten Videos erkennen können. Der Gewinner erhielt ein Preisgeld von 500.000 US-Dollar.
In solchen Videos taucht plötzlich Sebastian Kurz beim Songcontest auf und Arnold Schwarzenegger übernimmt die Rolle von Javier Bardem in „No Country for Old Men“. Das sind die harmloseren Fälle. Insbesondere in den USA, wo noch heuer die Präsidentschaftswahl ansteht, fürchtet man, die Technologie könnte zur Manipulation eingesetzt werden. Der Contest sollte dabei helfen, das zukünftig zu verhindern.
Genauigkeit knapp über 65 Prozent
Die Ergebnisse des Wettbewerbs hat Facebook nun veröffentlicht. Das Sieger-Programm konnte Deepfakes mit einer Genauigkeit von 65,18 Prozent erkennen - ein ernüchterndes Ergebnis. Facebooks Technik-Chef, Mike Schropefer, zeigte sich laut The Verge in einer Pressekonferenz allerdings zufrieden. Die eingereichten Programme könnten Forschern in Zukunft eine wichtige Unterstützung bieten, sagt er.
Der Sieger-Algorithmus schaffte in der Trainingsumgebung eine Genauigkeit von rund 82 Prozent
Insgesamt hatten 2.114 Teilnehmer über 35.000 Algorithmen eingereicht. Im Test wurde geprüft, wie viele der ungefähr 100.000 kurzen Video-Clips aus der Facebook-Datenbank sie korrekt als Deepfakes identifizieren konnten. Die Clips wurden mithilfe von 3.000 Schauspielern erzeugt, um möglichst realistische Szenarien abzubilden. Eine künstliche Intelligenz veränderte anschließend einige dieser Videos und setzte die Gesichter der Schauspieler auf andere Körper.
Facebook arbeitet an eigener Software
Diese Datenbank wurde dann Forschern zur Verfügung gestellt, damit diese ihre Algorithmen trainieren konnten. Hier konnte der Sieger-Algorithmus eine Genauigkeit von 82,56 Prozent erreichen. Dieses Ergebnis wurde allerdings schlechter, wenn der Algorithmus Videomaterial analysierte, auf das er zuvor nicht trainiert wurde. So sank die Trefferquote auf 65,18 Prozent. Die Software soll als open-source Programm veröffentlicht werden.
Facebook arbeitet derzeit selbst an einer Software, die Deepfakes erkennen soll. Hier sollen laut Schroepfer die Ergebnisse des Wettbewerbs mit einfließen. Allerdings seien Deepfakes „kein großes Problem“ für die Social-Media-Plattform, sagte er. Bereits im Jänner hatte Facebook Deepfakes auf der eigenen Plattform verboten, da Manipulation bei der US-Wahl verhindert werden soll.
Kommentare