Facebook und Microsoft starten Challenge, um Deepfakes besser zu erkennen

Microsoft und Facebook wollen Deepfakes den Kampf ansagen. In einem Blog erklärt der Social Media-Gigant, fast zehn Millionen Dollar in die „Deepfake Detection Challenge“ anzulegen, die die Forschung zur besseren Ermittlung von manipulieren Audio- und Videodateien ankurbeln soll, wie Reuters berichtet.

Die Plattform will unter anderem mit der University of California, der University of Maryland und der Cornell University kooperieren. Facebook beauftragt die Wissenschaftler, realistische Deepfakes zu produzieren, um ein Datenset zu generieren, damit Erkennungstools getestet werden können. Die Videos sollen im Dezember veröffentlicht werden. Facebook betont, dass keine Nutzerdaten verwendet werden – die Daten stammen von bezahlten Schauspielern.

Social Media unter Druck

Soziale Medien gelangen im Vorfeld der US-Präsidentschaftswahlen im November 2020 immer mehr unter Druck, gegen die Gefahren von Deepfakes vorzugehen. Zwar hat es in den USA bisher noch kein realistisches Deepfake-Video mit wesentlichen politischen Konsequenzen gegeben, doch die Technologie entwickelt sich so schnell weiter, dass dies nur noch eine Frage der Zeit ist.

Sehr wohl hat jedoch das „Cheapfake“ der Demokratin Nancy Pelosi gegeben, das für Aufsehen gesorgt hat. Ihre Rede wurde manuell manipuliert, sodass sie undeutlich gemacht wurde. Die Unterschiede zwischen real und fake hat unter anderem der Fernsehsender CBS deutlich gemacht. 

Rasche Entwicklung

Die Evolution von Deepfakes ist rasant – es werden Online-Programme angeboten oder sogar YouTube-Tutorials, in denen gegen Geld Schritt für Schritt erklärt wird, wie man selbst Deepfakes erstellt. Facebook und Microsoft wollen eine Software entwickeln, die manipulierte Dateien leichter erkennen, da das menschliche Auge dies kaum bewältigen kann.