TikTok löscht Nackt-Videos ab sofort per Algorithmus
In den USA und Kanada kommt bei TikTok ab sofort ein neues System zum Einsatz, um die Kurzvideo-Clips zu begutachten: Statt Menschen werden künftig nur noch Computerprogramme drüberschauen. Diese seien mittlerweile gut genug, um zu erkennen, welche Inhalte entfernt werden müssen und welche nicht. Sex, Nacktheit, Gewalt, illegale Aktivitäten und Videos, die die Rechte Minderjähriger verletzen: All diese Dinge soll der Computer so gut erkennen, dass kein Mensch mehr drüber schauen muss, bevor die Inhalte entfernt werden.
TikTok will damit laut eigenen Angaben die Menschen schützen, die sich diese Videos ansehen mussten. Bei vielen habe dies „unendlich großen Stress“ ausgelöst, und sie hätten ein posttraumtische Belastungsstörung (PTSD) davon bekommen, berichtet The Verge. Tatsächlich gab es bereits zahlreiche Berichte dazu, wie Content-Moderator*innen von sozialen Medien unter diesen Tätigkeiten leiden. So soll YouTube den Moderator*innen etwa dazu geraten haben, Drogen zu nehmen, um mit den Dingen, die sie sehen, besser klar zu kommen.
5 Prozent der Videos werden fälschlicherweise gelöscht
Natürlich wisse man, dass automatisierte Systeme nie perfekt seien und manche Communities davon „stark getroffen“ werden. So wurde in der Vergangenheit der #Intersex Hashtag zweimal gelöscht. Man habe das System bereits in Pakistan oder Brasilien getestet und dabei festgestellt, dass nur 5 Prozent der Videos, die von Maschinen gelöscht worden waren, eigentlich online hätten bleiben müssen.
Diese Zahl klingt erst einmal niedrig. Bei TikTok wurden in den USA aber mehr als 8,5 Mio. Videos in den ersten 3 Monaten von 2021 gelöscht. Wenn davon 5 Prozent „Falschanteil“ wären, würde die Zahl der irrtümlich gelöschten Videos sehr hoch sein.
Wieviele Menschen durch die Umstellung jetzt arbeitslos werden, ist allerdings nicht bekannt gegeben worden. Laut TikTok würden zudem sehr wohl noch menschliche Moderator*innen eingesetzt, um die Meldungen aus der Community sowie „alle anderen Videos, die nicht in klare Kategorien fallen“ zu sichten.