Netzpolitik
04/15/2019

China nutzt KI, um Minderheit der Uiguren zu verfolgen

Insider berichten, in welchem Ausmaß China Kameras und künstliche Intelligenz einsetzt, um eine ethnische Minderheit zu überwachen.

Die turksprachige Ethnie der Uiguren, die vor allem in der nordwestlichen chinesischen Provinz Xinjiang beheimatet ist, steht unter scharfer staatlicher Überwachung. Rund eine Million Uiguren sollen sogar in Arbeitslagern eingesperrt sein. Dass China große Anstrengungen unternimmt, um die ethnische Minderheit zu kontrollieren, ist bekannt. Die New York Times berichtet nun unter Berufung auf fünf Insider über das Ausmaß, in dem künstliche Intelligenz zur Analyse von Überwachungskamera-Aufnahmen eingesetzt wird, um Uiguren im ganzen Land zu verfolgen. Eine wichtige Rolle dabei spielt offenbar auch eine Reihe von Start-ups.

"Automatisierter Rassismus"

Wie die New York Times berichtet, ist China durch diese Praxis ein Pionier bei der Anwendung hochkomplexer Technologie, um sein Volk zu überwachen. Das Land könne "möglicherweise eine neue Ära des automatisierten Rassismus einläuten". Laut einem Insider, der aus Sicherheitsgründen anonym bleibt, wurde alleine in der zentralchinesischen Stadt Sanmenxia 500.000 Mal innerhalb eines Monats überprüft, ob es sich bei Einwohnern um Uiguren handelt. Polizeistationen im ganzen Land haben laut den Auskunftsquellen Systeme angeschafft, die die Minderheit auf Videobildern erkennen können. Dokumente und Screenshots würden die Fähigkeiten der Systeme beweisen.

Vorurteile

Aus technologischer Sicht scheint die Kategorisierung von Menschen nach Ethnien relativ einfach. Die Zuverlässigkeit solcher Systeme ist jedoch im Allgemeinen noch nicht besonders hoch. Im Zusammenhang mit Künstlicher Intelligenz gibt es vielerlei Diskussionen über ethische Bedenken - unter anderem durch Vorurteile von Programmierern, die an Programme weitergegeben werden. China geht bei der Anwendung von KI allerdings einen Schritt weiter als andere Staaten. Laut dem Technologie-Investor Kai-Fu Lee sei das auch gut so. Die Regierung des Landes halte sich weniger mit "legalen Details" oder "moralischem Konsens" auf, und sei deshalb führend bei der Entwicklung von KI.

Nichts Böses im Sinn

Die Entwicklungarbeit geht großteils von neuen Start-ups wie Yitu, Megvii, SenseTime und CloudWalk aus, die allesamt mit über einer Milliarde Dollar bewertet werden. Investments kommen auch aus dem Ausland. Konfrontiert mit der Überwachung von Uiguren beteuern die meisten Start-ups, keinerlei rassistische Profilerstellung im Sinn zu haben. Es gehe lediglich um die Erhöhung der Sicherheit für chinesische Bürger.

Gedankensteuerung

Außerhalb Chinas wird die Angelegenheit kritischer gesehen. "Ich glaube nicht, dass es übertrieben ist, das als existienzielle Bedrohung für die Demokratie zu sehen", meint etwa Jonathan Frankle, KI-Forscher am MIT. Wenn Ein Staat Hochtechnologie auf solche Art einsetze, bestehe die Gefahr, "Menschen Gedanken und Regeln tiefgreifender aufzuzwingen, als dies in den 70 Jahren der Sowjetunion erreichbar gewesen wäre".