Digital Life
22.05.2017

Leak: Wie Facebook-Moderatoren mit Sex und Gewalt umgehen

Facebooks internes Regelwerk über den Umgang mit gemeldeten Inhalten zeigt eine hohe Toleranz bei Inhalten, die Gewalt, sexuellen Missbrauch und Tierquälerei beinhalten.

Der Guardian ist an das interne Regelwerk für Facebooks Seiten-Moderatoren gelangt. In über 100 Dokumenten, darunter Texten, Präsentationsfolien und Grafiken, wird dargelegt, wie bei bestimmten gemeldeten Inhalten am Social Network zu handeln ist. Die Dokumente zeigen, dass Facebook-Moderatoren auf eine Vielzahl an Situationen vorbereitet werden, etwa "Revenge Porn" oder Hass-Postings. Äußerungen wie "Irgendwer sollte Trump erschießen" sind demnach nicht zulässig und müssen gelöscht werden, weil eine konkrete Person darin bedroht wird. Äußerungen wie "um den Hals der Schlampe zu brechen, richte den Druck auf die Mitte ihres Halses" (tatsächliches Beispiel) sind hingegen erlaubt, weil sie als unspezifische und unglaubwürdige Äußerung von Wut eingestuft werden.

Tierquälerei

Bei Gewalt wie auch in anderen Belangen, etwa Tierquälerei zeigt das Facebook-Regelwerk eine hohe Toleranzschwelle. Sie könnten eine aufklärerische Wirkung im Sinn haben und sollen deshalb erst dann gelöscht werden, wenn das Tier auf Bilder oder Videos extrem misshandelt oder gar getötet wird und dazu Jubel-Bekundungen abgegeben werden.

Kindesmissbrauch

Offen gezeigter Jubel oder sadistische Freude ist auch notwendig, um Inhalte sofort zu löschen, die den Missbrauch von Kindern zeigen. Ist dies nicht erkennbar, der Inhalt wird aber gemeldet, so werden Warnungen angebracht, Bilder und Videos sind aber weiterhin ansehbar. Facebook will damit sicherstellen, dass die abgebildeten Kinder erkannt werden, um Behörden die Identifizierung zu ermöglichen. Bei sexuellem Missbrauch von Kindern werden Inhalte sofort von der Seite entfernt.

Selbstverletzung

Wenn Videos veröffentlicht werden, auf denen sich Personen selbst verletzen oder gar umbringen, werden sie von den Facebook-Moderatoren nicht automatisch gelöscht. Auch sie könnten eine aufklärerische Wirkung haben und dabei helfen, die Aufmerksamkeit für eine schwierige Thematik zu erhöhen. Videos von Abtreibungen sind erlaubt, solange sie keine "Nacktheit" zeigen.

Nacktheit

Das Thema Nacktheit wird nach diversen Skandalen - bei denen Facebook meist Prüderie vorgeworfen wird - recht pragmatisch angegangen. Wenn handgemachte Kunstwerke, die Nacktheit und sexuelle Akte darstellen, gezeigt werden, ist das erlaubt. Digitale Kunst mit Nacktheit oder sexuellen Inhalten ist dagegen verboten. Nacktheit darf auch im Kontext von Holocaust-Abbildungen - etwa nackten Gefangenen in Konzentrationslagern - gezeigt werden.

Rachepornos

Inhalte mit "Revenge Porn" (Rachepornos) werden von Facebook gelöscht. Um als solches eingestuft zu werden, muss das Material allerdings einige Voraussetzungen erfüllen. Es muss Nacktheit oder sexuelle Aktivitäten in einem privaten Umfeld zeigen und dazu muss erkennbar sein, dass die abgebildete Person der Veröffentlichung nicht zustimmt, etwa durch Textkommentare. Auch wenn Medien über den Beitrag als "Revenge Porn" berichten, wird der Inhalt als solcher eingestuft.

Graubereiche

Facebook ist sich der Herausforderung seiner Moderations-Aufgabe bewusst. "Wir haben eine sehr diverse, globale Community. Die Menschen haben sehr unterschiedliche Ideen dazu, was man mit anderen teilen darf. Egal, wo man die Linie zieht, Graubereiche wird es immer geben", ist Monika Bickert, die Chefin von Facebooks Firmenpolitik-Management, überzeugt. "Wir fühlen uns für unsere Community verantwortlich. Es ist unsere Angelegenheit, am Ball zu bleiben." Obwohl sich das Unternehmen bemühe, proaktiv gegen unerwünschte Inhalte vorzugehen, bitte man die Facebook-Nutzer, Postings zu melden, die Facebooks Standards verletzen.

Kritik

Ob die Stellungnahme Kritiker beschwichtigen wird, ist zweifelhaft. Laut Mashable erwecken die durchgesickerten Facebook-Dokumente den Eindruck, dass sich das Social Network Skandalen stets anpasst, aber die Masse an Postings im Grunde nicht im Griff hat. "Facebook hat ein Minenfeld gelegt und jetzt versuchen sie, einen Weg da durch zu finden. Vielleicht hätten sie vorher nachdenken sollen, bevor sie überall Minen verstreut haben", meint etwa Alex Hazlett in einem Kommentar.