Facebook sucht Terrorinhalte mit künstlicher Intelligenz

Facebook setzt künstliche Intelligenz ein, um terroristische Inhalte auf seiner Plattform zu entdecken. Dabei gehe es unter anderem darum, bereits bekannte Bilder und Videos beim erneuten Hochladen zu stoppen, erklärte die zuständige Facebook-Managerin Monika Bickert in einem Blogeintrag am Donnerstag.

Zugleich experimentiere das weltgrößte Online-Netzwerk aber auch mit Software, die automatisch eine terroristische Einstellung in Texten erkennen solle. Aktuell würden dafür Einträge ausgewertet, die wegen der Unterstützung von Terror-Organisationen wie Isis oder Al-Kaida bereits gelöscht wurden. Mit den Ergebnissen dieser Analyse wird ein Algorithmus gefüttert, der gerade lerne, Posts mit solcher Ausrichtung selbst zu erkennen. Neben Englisch laufe die Arbeit auch in weiteren Sprachen, auch aus dem arabischen Raum, sagte Bickert.

Inhalte entdecken, bevor sie jemand sieht

„Wir wollen terroristische Inhalte sofort entdecken, bevor Menschen in unserer Community sie zu sehen bekommen“, betonte die Managerin, die zuvor unter anderem Staatsanwältin in den USA war. Das gelinge jetzt in einigen Fällen, sagte Brian Fishman, der sich beim Online-Netzwerk mit Terrorbekämpfung beschäftigt. „Wir arbeiten daran, diese Systeme schneller und verlässlicher zu machen.“ Zugleich sei es Katz-und-Maus-Spiel: „Wenn wir verhindern, dass Terroristen unsere Plattform erreichen, versuchen sie, neue Wege zu finden.“ Es gebe „keinen Schalter, mit dem man Terrorismus einfach abstellen kann“.

Inzwischen werde mehr als die Hälfte der wegen Terror-Propaganda gelöschten Facebook-Accounts vom Netzwerk selbst entdeckt, sagte Bickert. Normalerweise ist Facebook auf Hinweise von Nutzern auf illegale oder beim Netzwerk untersagte Inhalte angewiesen. Eine Ausnahme ist Kinderpornografie, gegen die unter anderem mit automatisierter Software gekämpft wird.

Kontext oft schwer zu erkennen

„Auch wenn unsere Software immer besser wird, hängt sehr viel auch vom Kontext ab“, schränkte Bickert ein. Wenn zum Beispiel in einem Video Isis-Symbole zu sehen seien, könne es um Terror-Propaganda oder auch aber einen Nachrichtenbeitrag handeln. Hier seien im Moment Entscheidungen von Menschen unverzichtbar.
Die Erkenntnisse aus der Facebook-Plattform sollen auch verwendet werden, um Profile mit terroristischen Inhalten bei anderen Diensten des Online-Netzwerks wie Instagram und WhatsApp zu finden. Auch deshalb sei es wichtig, dass einzelne Apps Daten an Facebook weiterreichen könnten, hieß es in dem Blogeintrag. Facebooks Versuch, Zugriff auf einige Informationen von WhatsApp-Nutzern zu bekommen, wurde im vergangenen Jahr in Europa von Datenschützern blockiert.

Vor allem in Europa stieg zuletzt der politische Druck auf Facebook und andere Online-Dienste, härter gegen terroristische Propaganda vorzugehen. So erklärte die britische Premierministerin Theresa May nach dem jüngsten Attentat auf der London Bridge, Extremismus finde im Netz eine sichere Brutstätte - und die großen Internetunternehmen ließen dies zu.