Wie Facebook und Instagram von Pädophilen ausgenutzt werden

Laut Berichten der New York Times und des Wall Street Journals lässt es Meta wissentlich zu, dass minderjährige "Kinder-Influenzer*innen" auf Facebook und Instagram sexuelle ausgebeutet werden. In einigen Fällen werden sogar die kostenpflichtigen Abonnement-Tools dafür verwendet. 

Bei den Influenzer*innen handelt es sich hauptsächlich um Mädchen unter 13 Jahren, die Plattform noch nicht ohne elterliche Aufsicht nutzen dürfen. Mehrere der "von Eltern verwalteten Konten für Minderjährige" verkauften Material an das vorwiegend männliche Publikum. Dazu zählten etwa Fotos der Kinder in freizügiger Kleidung, exklusive Chats mit den Kindern oder getragene Kleidung. Während die Konten keine illegalen Inhalte oder Nacktheit beinhalteten, war laut Wall Street Journal den Meta-Mitarbeiter*innen klar, dass damit wissentlich Pädophile angelockt werden sollten.

Auch Kindermodels oder junge Sportlerinnen betroffen

Durch die Algorithmen der Social-Media-Plattformen erhalten aber auch Kinder-Influenzerinnen, die nicht absichtlich darauf abzielen - etwa Kindermodels oder Sportlerinnen - ein großes männliches Publikum. Laut der New York Times können die Accounts somit lukrative Werbedeals an Land ziehen, durch monatliche Abonnement kommen bei Accounts mit vielen Follower*innen sechsstellige Beträge zusammen.

➤ Mehr lesen: Instagram-Algorithmen empfehlen Pädophilen-Netzwerke

Meta ist sich dem Problem bewusst und entwickelte ein automatisiertes System, das verhindern sollte, dass mutmaßliche Pädophile von Eltern verwalteten Konten folgen können. Die Sicherheitsmaßnahme lässt sich allerdings leicht umgehen, indem man ein neues Konto erstellt. Währenddessen hat Meta sein kostenpflichtiges Abo-Programm und die Trinkgeldfunktion "Gifts" auf die Konten von Kinder-Influencer*innen erweitert. Auf der anderen Seite beschränkte Meta die accounteigenen Moderationswerkzeuge. Bei Konten, die zu viele Follower an einem Tag blockierten, wurde dieses Werkzeug für eine gewisse Zeit beschränkt.

TikTok schließt Minderjährige von Monetarisierung aus

Maßnahmen, um solche Inhalte nicht zu forcieren, existieren bereits. Die Videoplattform TikTok erlaubt etwa keinen Verkauf von Bildern minderjähriger Models auf seinem Marktplatz. Zudem werden Minderjährige auch von der Monetarisierung auf der Plattform ausgenommen.

Wie die Times auch hervorstreicht, reagierte Meta nur sporadisch auf Moderationsversuche. Von 50 anzüglichen Nachrichten, die gemeldet wurden, wurde lediglich eine entsprechend bearbeitet. Aus einem internen Bericht des Unternehmens aus dem Jahr 2020 geht hervor, dass 500.000 Instagram-Konten von Kindern jeden Tag "unangemessene" Kommentare oder Nachrichten erhalten.

Meta: Eltern können Konten löschen

In einer Erklärung gegenüber der New York Times sagte ein Meta-Sprecher, dass die Eltern für die Konten und Inhalte ihrer Kinder verantwortlich seien und diese jederzeit löschen könnten. "Jeder auf Instagram kann kontrollieren, wer ihn markieren, erwähnen oder Nachrichten schicken kann und wer sein Konto kommentieren darf", fügte der Sprecher hinzu. Zudem gebe es eine Funktion, wodurch Kommentare mit bestimmten Wörtern gesperrt werden.