OpenAI deckt geheimes Fake-Account-Netzwerk der chinesischen Regierung auf
OpenAI hat aufgedeckt, mit welchen Methoden Teile der chinesischen Strafverfolgung versuchen, Dissidenten und Kritiker einzuschüchtern. Aufmerksam wurde das Unternehmen, nachdem der ChatGPT-Account eines chinesischen Beamten aufgrund verdächtiger Aktivitäten gebannt wurde. Das kann dem neuesten OpenAI-Bericht zum Unterbinden von schadhafter KI-Nutzung (Disrupting malicious uses of AI) entnommen werden.
OpenAI hatte Einsicht in die Taktiken der chinesischen "Cyber Special Operations". So versuchte man mithilfe von ChatGPT, "eine verdeckte Operation gegen die japanische Premierministerin Sanae Takaichi zu planen", heißt es im Bericht. Es sollten negative Kommentare geschrieben und gefälschte Beschwerde-Mails versandt werden, um Druck auszuüben. Innerhalb Japans sollte die Aufmerksamkeit der Bevölkerung weg von China hin zu den USA gelenkt werden. ChatGPT habe verweigert, bei der Planung zu helfen.
➤ Mehr lesen: OpenAI warnt vor großer Gefahr bei KI-Browsern
Die japanische Premierministerin Sanae Takaichi trifft auf den chinesischen Präsidenten Xi Jinging
© via REUTERS/KYODO
Auch später habe man noch versucht, die KI für die weitere Planung dieser Operation einzusetzen. OpenAI vermutet daher, dass die Operation gegen die Premierministerin ohne die Hilfe von ChatGPT begonnen wurde.
➤ Mehr lesen: Wie in China? Hamburg testet umstrittene KI-Videoüberwachung
"Großangelegte" Aktion gegen Kritiker
Auch gebe es Hinweise darauf, das mithilfe von KI Kritiker und Dissidenten im In- und Ausland zum Schweigen gebracht werden sollten. Das scheine eine "großangelegte, ressourcenintensive und dauerhaft angelegte" Aktion zu sein, bei der Hunderte Mitarbeiter mit tausenden Fake-Konten auf zahlreichen Plattformen involviert sind, so OpenAI.
Die Taktiken seien dabei vielfältig. Es wurde versucht Dokumente zu fälschen, bei denen etwa die Identität von US-Beamten imitiert wurde, um Personen einzuschüchtern. Zudem versuchte man die Social-Media-Accounts der Zielpersonen fälschlicherweise bei den Plattformen zu melden und setzte massenhaft Online-Postings ab. "Durch Open-Source-Analysen konnten wir Online-Aktivitäten identifizieren, die mit einigen der beschriebenen Taktiken übereinstimmten", heißt es im Bericht.