1960 Hasspostings wurden via "BanHate" gemeldet

© APA/dpa/Lukas Schulze

Digital Life
01/02/2020

Hassbarometer: Software behandelt Hass-Postings wie Computerviren

Social-Media-Nutzer entscheiden, ob sie einen Inhalt in die Quarantäne verschieben oder lesen wollen.

Forscher der University of Cambridge haben eine Software entwickelt, die Hass-Postings wie Computerviren behandelt und sie blockieren kann. Nutzer werden bei Postings, die das Ziel der Herabsetzung und Verunglimpfung verfolgen könnten, gewarnt. Ein sogenanntes Hassbarometer namens „Hate O’Meter“ bewertet das Posting gleichzeitig auf sein „Schweregrad“. In Folge bleibt es den Nutzern offen, ob sie den Inhalt konsumieren möchten.

Laut den Forschern Stephanie Ullmann und Marcus Tomalin, die ihr Projekt im Ethics and Information Technology Journal veröffentlicht haben, ist es auf diese Weise möglich, das Grundrecht der Meinungsfreiheit aufrechtzuerhalten. Die Software nutzt demnach einen Algorithmus, der Hass-Postings auf ähnliche Weise erkennt, wie ein Antivirus-Programm Malware erkennt.

Nutzer entscheiden dann, ob sie den Inhalt in Quarantäne verschieben oder ihn sehen möchten. Dabei wird aber nicht nur das eine verdächtige Posting vom Algorithmus überprüft, sondern sämtliche Inhalte des Nutzers. Bei unbedenklichen Inhalten erscheint der Feed wie üblich.

Schutz aktuell nicht ausreichend

Den Wissenschaftlern zufolge sind Hassreden genauso schwerwiegend wie etwa körperliche Gewalt. Social-Media-Nutzer seien daher davor zu schützen. Was soziale Medien selbst gegen Hass-Postings unternehmen, sei unzulänglich und würde oftmals die Meinungsfreiheit verletzen. Dabei informieren Richtlinien über Hass-Postings und darüber, wie Nutzer solche melden können. Mitarbeiter des sozialen Netzwerks überprüfen die Inhalte folglich und entscheiden, ob der dafür verantwortliche Nutzer gesperrt werden soll oder nicht.

Laut Tomalin ist mit dieser Methode der Schaden jedoch schon angerichtet. Besser sei es, potenziell negative Inhalte schon früher abzufangen, also bevor der Empfänger sie gelesen hat. So sei auch eine goldene Mitte zwischen jenen Personen, die Hassreden gänzlich stoppen wollen und jenen, die die Meinungsfreiheit ungehemmt schützen wollen, möglich.