Hasspostings sind ein großes Problem für Facebook

© apa, futurezone

Frag die futurezone
10/03/2019

Facebook soll weltweit Hasspostings löschen: Kann das gut gehen?

Der EuGH hat entschieden: Facebook muss länderübergreifend Hasspostings löschen. Doch wie ist das technisch umsetzbar?

von Andreea Iosa

Nach der Klage der ehemaligen Grünen-Abgeordneten Eva Glawischnig hat der Europäische Gerichtshof (EuGH) verordnet, dass Facebook sämtliche Hasspostings weltweit löscht. Auch jene, die von anderen Nutzern geteilt werden, sodass sie im Netz nicht mehr gefunden werden können.

Doch wie kann eine solche vermeintliche Mammutaufgabe bewältigt werden? Schließlich geht es bei Hasspostings um verschiedene Formen von menschenverachtenden Äußerungen – seien sie rassistisch, sexistisch, antisemitisch, homophob oder gewaltverherrlichend. Und das weltweit. Zudem können sich Hasspostings ebenfalls gegen spezifische Weltanschauungen oder Werte richten. Auf Facebook kommt jetzt also viel Arbeit zu.

Verrichtet werden kann sie von künstlichen Intelligenzen (KI). Laut dem Internet Service Providers Austria (ISPA), bei dem Facebook in Österreich Mitglied ist, erfordert die Umsetzung der zielgerichteten Überwachungspflicht nach inhalts- und sinngleichen Postings automatisierte Überwachungstechnologien. Unter anderem setzt auch YouTube ein solches System ein, um diese Massen an rechtswidrigen Daten überhaupt identifizieren zu können. Helfen kann sie aber nur bedingt.

Löschzwang kann ausarten

Facebook setzt jetzt schon KI in unterschiedlichen Bereichen ein – jedenfalls dort, wo Daten skaliert werden müssen. Wie weit ein Sperr- oder Löschzwang allerdings ausarten kann, haben unzählige YouTube-Beispiele gezeigt. Der Hintergrund: Die Videoplattform hat im Juni ihre Regeln gegen Hasspostings verschärft – seitdem verschwinden mehr und mehr Videos von der Seite. In nur einem Quartal hat das Medium eigenen Angaben zufolge die Anzahl der gelöschten Hassvideos auf über 100.000 verfünffacht. Dabei hat sich ein Problem ergeben: Es werden mehr Videos gelöscht, als eigentlich nötig und beabsichtigt.

Die eingesetzten Systeme suchen nach einzelnen Wörtern und untersuchen deren Anordnung und Satzbau sowie Rechtschreibfehler. Jedes individuelle Posting wird auf diese Kriterien analysiert, in Folge berechnet der Algorithmus die Wahrscheinlichkeit, dass es sich dabei um ein Hassposting handelt.

Aber: Was eine Maschine nicht kann, ist kontextuelle Zusammenhänge zu erkennen sowie auf Ironie oder Sarkasmus zu schließen. Zwar hat Mark Zuckerberg betont, dass beim Einsatz von KI in letzter Instanz die Moderatoren über eine Löschung entscheiden – am YouTube-Beispiel sieht man jedoch, dass sie mit der Masse an Inhalten oft überfordert sind.

Geteilte Inhalte zu löschen, ist außerdem zwar einfacher umsetzbar, birgt jedoch ebenfalls die Gefahr, zu viel Internet-Inhalt verschwinden zu lassen, der in Wahrheit unbedenklich war.

Geschichtsvideos und Dokumentarfilme

In der Causa Youtube wurden unter anderem auch Geschichtsvideos gelöscht, die über Hitler und die Nationalsozialisten aufklären sollten. futurezone hat berichtet. Die Videoplattform hat Ende Juni beispielsweise auch den Trailer zum österreichischen antifaschistischen Dokumentarfilm „Hafners Paradies“ gesperrt, der sieben Jahre lang auf dem Kanal OneWorldFilmclubs online war. Die Begründung: Der Inhalt verstoße gegen „YouTube-Richtlinien zu Hassreden“. Auch ein Musikvideo der Punk-Band Slime wurde wegen angeblicher „Hassrede“ gelöscht.

"Als Gesellschaft müssen wir uns überlegen, ob wir in Zukunft ausschließlich ein vorab durch private Unternehmen gefiltertes Internet haben möchten", sagt der ISPA-Generalsekretär Maximilian Schubert. Vielmehr müssten die notwendigen Investitionen getätigt werden, um die Rechtsdurchsetzung im Internet schneller, effizienter und für alle Nutzer nachvollziehbar zu machen. Spezifischer heißt das, dass zuständige Behörden hinreichend ausgestattet und die Exekutive trainiert sowie eine spezialisierte Staatsanwaltschaft installiert werden müsse.

„Wir fordern außerdem eine im Innenministerium angesiedelte zentrale Stelle für Anfragen an Plattformen, um Beweismaterial bestmöglich zu sichern. Andere Länder wie beispielsweise die Niederlande, in denen solche Maßnahmen bereits umgesetzt sind, haben deutlich mehr Erfolg beim Kampf illegale Inhalte und Hass im Netz. Daran sollten wir uns in Österreich orientieren", fordert Schubert.

Was Facebook zum EuGH-Urteil sagt, könnt ihr hier nachlesen.