KI-Werkzeug kann Deepfakes ziemlich treffsicher erkennen

Das Programm wurde von Forschern des USC Information Sciences Institute (USC ISI) entwickelt. Es konzentriert sich auf subtile Gesichts- und Kopfbewegungen sowie Artefakte in Dateien, um festzustellen, ob ein Video gefälscht wurde, und kann die computergenerierten Videos laut einem von der Computer Vision Foundation veröffentlichten Artikel (PDF) mit einer Genauigkeit von bis zu 96 Prozent identifizieren.

Bei Deepfake Videos wird ebenfalls eine KI-Bilderkennungstechnologie verwendet, um das Gesicht einer Person auf eine andere zu übertragen. Diesen Prozess nennt man auch „Face Swapping“. Im Falle von Deepfakes tauscht die Software nicht nur das Gesicht, sondern passt auch den Gesichtsausdruck an.

Schnellere Erkennung

Standard-Deepfake-Erkennungsmodelle analysieren Videos Bild für Bild, um Anzeichen von Manipulationen zu erkennen. Die neue Technik, die von USC-Forschern entwickelt wurde, erfordert weitaus weniger Rechenleistung und Zeit.

Es überprüft ein gesamtes Video auf einmal, wodurch Informationen viel schneller verarbeitet werden können. Es werden Bilder des Videos übereinander gestapelt und mögliche Inkonsistenzen in der Bewegung des Motivs des Filmmaterials gesucht.

Softe Biometrie

Es könnte ein leichtes Häkchen in der Bewegung der Augenlider der Person oder eine merkwürdige Bewegung während einer Geste sein - Dinge, die die Forscher als "softbiometrische Signaturen" bezeichnen. Da die meisten Deepfake-Algorithmen die Bewegungen einer Person nicht vollständig auf diese Weise modellieren, können sie so entlarvt werden.

Die Forscher verwendeten einen Datensatz von etwa 1.000 manipulierten Videos, um das Tool zu trainieren, und es wurde ziemlich geschickt darin, Deepfakes von wichtigen politischen Persönlichkeiten und Prominenten zu identifizieren.