UN-Projekt generiert KI-Avatare von Geflüchteten

Das United Nations University Center for Policy Research (UNU-CPR) hat kürzlich 2 KI-Avatare veröffentlicht, die Menschen aus dem Sudan darstellen. Das Projekt „Ask Amina“ soll die Zukunft interaktiver Personas ergründen – etwa ob sie die Situation Geflüchteter für humanitäre Helfer oder potenzielle Geldgeber besser nachvollziehbar machen können.

Auf der Webseite kann man nach Registrierung (die zum aktuellen Zeitpunkt nicht funktioniert) 3 Minuten lang entweder mit Amina oder mit Abdalla reden. Amina ist eine junge Frau, die vor dem bewaffneten Konflikt in der Region Darfur ins Nachbarland Tschad geflohen ist. Sie soll die mehr als eine Million sudanesischer Geflüchteter repräsentieren. 

Abdalla soll einen Kommandanten der paramilitärischen Rapid Support Forces (RSF) darstellen. Die Antworten der beiden KI-Avatare speisen sich aus lokalen Umfragen, Erhebungen zum Konflikt sowie Machtstrukturen in der Region.

Diskussion über KI anregen

Das Projekt begann im Rahmen einer Lehrveranstaltung zum Thema „KI zur Konfliktvermeidung“ von Eduardo Albrecht, Professor an der Columbia University in New York und Forscher am UNU-CPR, wie 404 media berichtet. Ziel war es, eine Diskussion über KI im Rahmen humanitärer Hilfe anzuregen. 

➤ Mehr lesen: KI hat Nutzer aus Selbstschutz erpresst und bedroht

Im Abschlussbericht zu „Ask Amina“ kommt er zu dem Schluss, dass der Einsatz mit schwerwiegenden ethischen Bedenken einhergeht. Es seien formelle Mechanismen notwendig, KI-generierte Avatare mit echten Betroffenen zu verbinden. „Zum Beispiel sollte Amina von Organisationen, die von Geflüchteten aus Darfur geleitet werden, überprüft und genehmigt werden“, heißt es in dem Bericht.

Machine Learning bei der UN

„Wir schlagen das nicht als Lösung für die UN, noch weniger für UNHCR vor. Wir spielen bloß mit dem Konzept“, erklärt der Professor gegenüber 404 media. Die UN-Flüchtlingsagentur UNHCR ist für den Schutz Vertriebener auf der ganzen Welt zuständig.

Eleanore Fournier-Tombs, KI-Policy-Expertin bei UNU-CPR, meint, dass es überall, nicht nur bei der UN, den Druck gäbe, KI-Systeme einzusetzen, um effizienter zu werden. „Jemand wird KI-Agenten im humanitären Kontext einsetzen, und das wird ein Unternehmen sein, und dann wird es keine wirklichen Prinzipien, kein Nachdenken, keine Überlegungen geben, was getan werden sollte“, wird sie bei 404 media zitiert.

Es ist nicht das erste Mal, dass die Vereinten Nationen auf Machine Learning setzen. Das Projekt „Jetson“ des UNHCR nutzt vorhersagende analytische Methoden, um Vertreibung und Konflikteskalation in Somalia abzuschätzen.

US-amerikanischer Akzent und fröhliche Stimmführung

Amina und Abdalla wurden mithilfe von HeyGen umgesetzt. Der KI-Videogenerator basiert auf GPT-4o mini von OpenAI. 

➤ Mehr lesen: Video-KI Sora liefert gruselige und beeindruckende Clips

Wegen ihrer abgehackten Sprache, US-amerikanischem Akzent und fröhlicher Stimmführung bei äußerst ernsten Themen wirken die beiden Avatare nicht realistisch. Bei 404 media sind beispielhafte Unterhaltungen mit Amina und Abdalla zu sehen.