Neue Welle an gefälschte Videoclips mit Prominenten auf YouTube

Es ist eine beliebte Taktik Cyberkrimineller, Opfer mithilfe bekannter Gesichter in die Falle zu locken. Derzeit machen wieder vermehrt Werbeeinschaltungen mit Prominenten die Runde auf beliebten Plattformen wie Facebook, TikTok oder auch YouTube. 

Mirjam Weichselbraun oder auch Armin Assinger empfehlen dort dubiose Anlageportale. All diese Clips sind aber  – mal bessere, mal schlechtere – Fälschungen. Weichselbraun oder Assinger haben in der Realität nichts mit den beworbenen Produkten zu tun, kennen sie höchstwahrscheinlich gar nicht. Nicht selten stehen auch Kryptowährungen im Zentrum der Scams. Auch die Watchlist Internet warnte zuletzt vor ähnlichen Betrugsversuchen. 

Was passiert, wenn man klickt?

Klickt man auf die beworbenen Webseiten, führen sie oft auf gefälschte Webseiten im Stil populärer Nachrichtenportale oder Tageszeitungen. Dort wird dann oft nochmal für die dubiosen Investments geworben. In der Regel wird man dazu aufgefordert, seine Kontaktdaten anzugeben. 

Anschließend wird man von einem Call-Center kontaktiert und dazu gedrängt, Geld zu „investieren“. Das eingezahlte Geld wandert schließlich in die Taschen der Betrüger*innen. Gleichzeitig wird immer wieder versucht, die Opfer mit falschen Versprechungen dazu zu bringen, noch mehr einzuzahlen. Teilweise haben Menschen auf diesen Weg schon zehn- oder Hunderttausende Euro verloren. 

➤ Mehr lesen: So könnt ihr KI-generierte Bilder entlarven

Wie entstehen die Clips?

Mittels Künstlicher Intelligenz (KI) lassen sich entsprechende Clips innerhalb kürzester Zeit herstellen. Allerdings schwankt die Qualität stark. Grundsätzlich gibt es mehrere Arten, die Fake-Clips herzustellen. 

Eine ist, einen echten Videoausschnitt, etwa aus einem Interview, vorzunehmen und dann eine gefälschte Tonspur darüberzulegen (siehe Video oben). Hier erzeugt die KI lediglich die gefälschte Stimme der Prominenten. Trainiert wird sie dabei mit echten Aufzeichnungen der jeweiligen Personen. Entsprechenden Modellen genügen schon wenige echt gesprochene Sätze, um die Stimme imitieren zu können.

Die Ergebnisse sind in der Praxis allerdings durchwachsen. So klingt die Stimme in den derzeit kursierenden Clips in der Regel künstlich und fast metallisch, in etwa so, wie man sich eine computergenerierte Stimme vorstellen würde. Außerdem passen die Lippenbewegungen nicht mit dem Gesagten überein. Achtet man auf diese Merkmale, lassen sich gefälschte Clips so relativ schnell enttarnen. 

➤ Mehr lesen: Van der Bellen und Armin Wolf: Internetbetrüger missbrauchen Promis

Bessere Fälschungen

Es gibt aber auch ausgeklügeltere Fälschungen. Dabei wird nicht nur die Stimme imitiert. Auch die Lippenbewegungen werden entsprechend angepasst. Beispiele sind etwa hier zu sehen. Diese Videos lassen sich schwieriger als Fälschung enttarnen. 

Es lohnt sich aber auch hier auf die Stimme zu hören, sie klingt meist dennoch unnatürlich. Auch Lippen und Bewegungen sind manchmal in die Länge gezogen oder auch abgehackt. 

Wie reagiert YouTube?

Doch warum können derartige Werbungen bei Plattformen wie YouTube überhaupt geschaltet werden? Vonseiten Googles heißt es auf Anfrage der futurezone, dass man "strenge Werberichtlinien" habe, die festlegen würden, welche Anzeigen auf unseren Plattformen zugelassen sind. Man setze diese Richtlinien "konsequent um", wie es heißt. 

"Wenn festgestellt wird, dass Werbeanzeigen gegen diese Google Ads-Richtlinien verstoßen, so werden diese entfernt, der Werbetreibende wird gewarnt, und es können Maßnahmen ergriffen werden bis zur Kontosperrung", erklärt Google in der schriftlichen Stellungnahme. 

Überprüft werden die Ads auf Basis von "Informationen aus verschiedenen Quellen", wie es auf der entsprechenden Hilfe-Seite heißt. "Darunter Anzeigen, Konten und Inhalte, Beschwerden von Nutzern, Kundenrezensionen, behördliche Warnungen und Gerichtsurteile". Erkannt werden Ads, die gegen die Richtlinien verstoßen, von einer Kombination aus automatischen Systemen und menschlicher Überprüfung. 

Die Zahl an nicht zulässigen Anzeigen hat zuletzt jedenfalls stark zugenommen. Das geht aus Zahlen hervor, die Google der futurezone mitteilt. So seien 2022 über 5,2 Milliarden Anzeigen entfernt worden, 2 Milliarden mehr als im Jahr zuvor. Insgesamt habe man deswegen 6,7 Millionen Kund*innenkonten gesperrt. 

Vorsicht bei allen Finanzprodukten

Grundsätzlich sollte man bei sämtlichen Finanzprodukten, die einem im Internet angeboten werden und dessen Namen man noch nie gehört hat, extrem vorsichtig sein. Ein weiterer Punkt, bei dem man sofort skeptisch werden sollte, ist, wenn von begrenzten Plätzen und wenig Zeit die Rede ist.

So versuchen die Kriminellen in der Regel, psychologischen Druck aufzubauen, damit man möglichst schnell darauf einsteigt, ohne sich genauere Gedanken darüber zu machen. Alle Alarmglocken sollten spätestens dann klingeln, wenn unrealistische Gewinne versprochen werden.