Polizei nutzt KI-Bots als Undercover-Agenten

Polizei-Behörden in den USA zahlen laut Recherchen des Tech-Mediums 404-Media Tausende von Dollars, um potenzielle Verdächtige auf Social-Media Plattformen auszuspionieren. Dabei nutzen sie das Tool Overwatch von dem in New York ansässigen Unternehmen Massive Blue. 

Das Unternehmen stellt mit Overwatch “virtuelle Agenten” zur Verfügung. Um kriminelle Netzwerke auszuspionieren, sollen die KI-Personas mit “College Protestanten”, “radikalisierten politischen Aktivisten” oder “Menschenhändlern” chatten und so Beweise für Verfahren sammeln. 

➤ Mehr lesen: Phishing-Fallen: Wiener Polizei sucht Täter mittels Fahndungsfotos 

Die Funktionsweise 

Laut den Berichten, die 404 Media vorliegen, bezahlt die Polizei  Massive Blue dafür, KI-Personas, KI-generierte Texte und Social Media Profile zu erstellen und diese online einzusetzen. Mithilfe generativer KI können etwa auch Bilder erzeugt werden, die die Echtheit der KI-Persona untermauern sollen – zum Beispiel ein Bild, auf dem die künstliche Person ein handgeschriebenes Schild mit ihrem Benutzernamen und dem aktuellen Datum in die Kamera hält.

Neben Social Media scannt Overwatch laut Hersteller auch weitere Bereiche des Internets. Wie genau das Tool entscheidet, wer als verdächtig gilt, bleibt unklar. Massive Blue verweist auf den Einsatz von Blockchain-Technologie, hält sich zu technischen Details jedoch bedeckt. Das Unternehmen beruft sich dabei auf „laufende Ermittlungen“ und verweigert weitergehende Auskünfte.

➤ Mehr lesen: Kugelförmiger Polizeiroboter ist mit Netz und Tränengas ausgestattet 

Einsatzzwecke 

Die Technologie ohne nachgewiesene Wirksamkeit soll für verschiedene Zwecke eingesetzt werden können. Als Beispiele listet das Unternehmen Grenzsicherheit, Sicherheit an Schulen oder die Bekämpfung von Menschenhandel als Verwendungszwecke für Overwatch auf. 

"Unser vorrangiges Ziel ist es, diese Kriminellen vor Gericht zu bringen und gleichzeitig den Opfern zu helfen, die andernfalls weiterhin Opfer des Menschenhandels bleiben würden”, sagt Massive Blue Mitgründer Mike McGraw gegenüber 404 Media. 

➤ Mehr lesen: Roboterhunde mit KI sollen bei Razzien in Drogenlaboren helfen 

Die Aktivistin und der Gamer 

Laut dem Unternehmen kann Overwatch hoch anpassbare und sofort einsetzbare KI-Personas erstellen. So etwa „Heidi“, eine angeblich 36-jährige, geschiedene, einsame Aktivistin aus Texas, die sich für soziale Gerechtigkeit einsetzt und „nach Sinn sucht“.

Eine weitere von Massive Blue entwickelte KI-Persona trägt den Namen Jason. Sie soll zur Aufdeckung von Menschenhandel eingesetzt werden und wurde mit einem detaillierten Profil versehen: Jason lebt demnach in Los Angeles, seine Eltern sind aus Ecuador eingewandert, er ist Einzelkind und interessiert sich für Anime, Gaming und Wandern.

Bisherige Deals 

Massive Blue hat  einen Vertrag über 360.000 US-Dollar mit dem Pinal County in Arizona abgeschlossen. Ziel ist es beispielsweise, damit Menschenhandel zu bekämpfen. Laut einem Bericht der Pinal County Purchasing Division umfasst der Vertrag „rund-um-die-Uhr-Überwachung von zahlreichen Web- und Social-Media-Plattformen“ sowie die Entwicklung und den Einsatz einer virtuellen Taskforce mit bis zu 50 KI-Personas in drei Ermittlungsbereichen. 

Laut dem Sheriff von Pinal County wurde das System von Massive Blue bislang jedoch noch nicht für tatsächliche Verhaftungen genutzt. Yuma County hat 2023 einen Vertrag über 10.000 Dollar mit Massive Blue unterzeichnet. Dort entschied man sich aber den Vertrag nicht zu verlängern, da die Technik nicht den Anforderungen entsprach. Bedenken hinsichtlich der Massenüberwachung und Kriminalisierung von Bürgern äußerte beispielsweise auch Kevin Cavanaugh, der damals Supervisor im District 1 war.