Kinderpornografie-Erkennung: Google bringt kostenlose KI-Lösung

Große Internetportale investieren viel Arbeit, um ihre Angebote frei von Kinderpornografie zu halten. Das wird oft von menschlichen Moderatoren erledigt, die im Kontakt mit dem Material hohen psychischen Belastungen ausgesetzt sind. Google hat eine kostenlose, auf künstlicher Intelligenz basierende Software veröffentlicht, die Unterstützung bieten soll, wie The Verge berichtet.

Ähnliche, bereits verfügbare Systeme gleichen zu prüfendes Material mit einem Katalog aus in der Vergangenheit identifizierten Inhalten ab. Das ist ein effektiver Weg, um bereits bekanntes Kinderpornografiematerial zu identifizieren. Neue Inhalte kann ein solches Werkzeug aber nicht erkennen, dafür sind dann wieder Menschen nötig. Googles Werkzeug analysiert Inhalte und liefert die wahrscheinlichsten Problemfälle an menschliche Moderatoren.

Vollautomatisch als Ziel

So können diese deutlich schneller arbeiten. Laut Google konnte ein Moderator in einem Test mit der Software um 700 Prozent mehr Material prüfen als ohne Hilfe durch die KI. Die Internet Watch Foundation (IWF), die größte Organisation, die sich dem Kampf gegen Kinderpornografie verschrieben hat, will Googles Software testen. Die IWF wird von großen Tech-Konzernen finanziert und sitzt in Großbritannien.

Der IWF-Chef Fred Langford sagt gegenüber The Verge, dass die Google-KI ein erster Schritt in Richtung vollautomatischer Systeme sein könne, die auch neue Kinderpornografie ohne menschliche Hilfe erkennen können. "Das ist in unserem Tätigkeitsbereich so etwas wie der Heilige Gral", sagt Langford. Er erwartet entsprechende Systeme in ein bis zwei Jahren. Selbst dann werde es aber unklare Fälle geben, in denen Menschen eingreifen müssen, um zu verhindern, dass etwas durch die Kontrollen schlüpft.