Künstliche Intelligenz in China klagt Menschen an

Entwickelt und getestet wurde die KI von Shanghai Pudong People´s Procratorate, der größten Bezirksstaatsanwaltschaft des Landes, berichtet futurism (unter Verweis auf die South China Morning Post). Sie könne auf der Grundlage einer Beschreibung eines mutmaßlichen Kriminalfalls mit mehr als 97 Prozent Genauigkeit Anklage erheben.

Laut den Forscher*innen soll das System Staatsanwält*innen bei der Entscheidungsfindung bis zu einem gewissen Grad ersetzen können. Es soll in der Lage sein, die 8 häufigsten Straftaten im Bezirk zu erkennen und anzuklagen: Kreditkartenbetrug, Glücksspiel, rücksichtsloses Fahren, vorsätzliche Körperverletzung, Behinderung eines Beamten, Diebstahl, Betrug und sogar politischer Widerspruch.

KI-Hilfe in der Justiz

Grundlage dieses Systems ist das bestehende KI-Tool „System 206“. Staatsanwält*innen in China verwenden es, um Beweise zu bewerten und festzustellen, ob ein mutmaßlicher Verbrecher eine Gefahr für die Allgemeinheit darstellt.

Es war jedoch ziemlich eingeschränkt, da es sich nicht an der Entscheidungsfindung bei der Erhebung von Anklagen beteiligen konnte. Dazu müsste die KI in der Lage sein, irrelevante Informationen auszuschließen und menschliche Sprache in ihrem neuralen Netz zu verarbeiten. Das weiterentwickelte System wurde um diese Fähigkeiten erweitert.

Große Bedenken

Natürlich erscheint es sehr bedenklich, wenn ein leistungsstarker Computer Menschen ins Gefängnis bringen kann. Mit 97 Prozent gibt es noch immer die Möglichkeit von Fehlern. Bei wem in einem solchen Fall die Verantwortung liegt, ist unklar.