Discord verbannt Tausende Nutzer wegen Schach-Screenshots

Zwischen Mai und Anfang Juli wurden auf Discord etwa 8.200 Accounts gesperrt. Das Vergehen? Bilder mit Gitterelementen – darunter Screenshots von Schachbrettern, Tabellen oder dem Minecraft-Inventar.

Verantwortlich dafür war eine Verkettung von 2 Bugs im automatischen Content-Moderationssystem der Chatplattform. Mittlerweile hat Discord die Accounts der Betroffenen nach eigenen Angaben wieder freigeschaltet und erklärt auf X, wie es zur Sperre gekommen war.

Bilder falsch klassifiziert

Discord gleicht hochgeladene Bilder per Similarity Hashing (auch bekannt als Fuzzy Hashing) mit Datenbanken schädlicher Inhalte ab. Mit dieser Methode können einzelne Dateien erkannt werden, die anderen ähneln, aber nicht gleichen. Doch wie der YouTuber Tall Cow auf X feststellte, klassifizierte das System zwischenzeitlich auch völlig harmlose Spielgrafiken und Screenshots als Kindesmissbrauchsdarstellung (CSAM).

Zwischenzeitlich war demnach die einzige Möglichkeit, eine ungerechtfertigte Sperre zu verhindern, keine Bilder zu posten. Nutzerinnen und Nutzer machten ihrem Frust auf Social Media Luft:

Account direkt gesperrt statt eingeschränkt

Eigentlich sollte ein Account nach dem Hochladen eines verdächtigten Bildes zunächst einmal eingeschränkt werden. Doch ein Bug führte dazu, dass Discord entsprechende Nutzer sofort dauerhaft verbannte, wie Gadget Review berichtet.

➤ Mehr lesen: Die besten Discord-Alternativen für iOS und Android

Selbst wenn Discord-Angestellte die Accountsperren manuell reevaluierten und wieder freizuschalten versuchten, blieben die Betroffenen von der Plattform ausgesperrt. Grund war ein weiterer Fehler im Content-Moderation-System. 

Die Plattform war vor einigen Monaten schon stark in die Kritik geraten, weil sie eine umfassende Alterskontrolle einführen will – die futurezone berichtete.