China verbietet Chatbot-Partner, um Geburtenrate zu steigern

Aus Angst vor Überpopulation verfolgte die Volksrepublik China von 1979 bis 2015 eine Ein-Kind-Politik. Doch seit Jahren nimmt die Bevölkerung in dem rund 1,4 Milliarden Einwohnerinnen und Einwohner zählenden Land ab und Einsamkeit wurde zum großen Problem.

➤ Mehr lesen: „Bist du tot?“ App für alleinlebende Menschen boomt in China

Viele Menschen wenden sich in dieser Situation an Chatbots. Laut der staatlichen Nachrichtenagentur Xinhua ergab eine Umfrage unter chinesischen Jugendlichen, dass mehr als 20 Prozent nur mehr mit KI, nicht aber mit anderen Menschen reden wollen. Peking reagiert darauf nun mit einer Reihe neuer Gesetze für KI-Anbieter. Sie traten am Mittwoch in Kraft.

Neue Regeln für „menschenähnliche KI-Begleiter“

Die Vorschriften zielen auf „menschenähnliche KI-Begleiter“ ab. Darunter fallen Services, die über Text, Bild, Audio oder Video „langanhaltende emotionale Interaktionen“ anbieten, nicht aber solche für Kundenservice, Bildung oder Wissenschaft. 

Betreiber müssen von nun an „emotionale Belastungen erkennen, in Krisensituationen eingreifen, übermäßige Nutzung einschränken, den Nutzern volle Kontrolle über ihre persönlichen Daten geben und den Missbrauch von Nutzerdaten verhindern“, heißt es bei Xinhua.

➤ Mehr lesen: Sorry, Siri AI will nicht deine Freundin sein

Virtuelle Beziehungen mit Minderjährigen sind laut Wall Street Journal nun ebenfalls verboten. Unter 14-Jährige dürfen die Services gar nicht nutzen, alle anderen müssen regelmäßig darauf hingewiesen werden, dass sie sich mit einem Bot unterhalten, heißt es bei Foreign Policy.

Ermutigung zu echten Beziehungen

Alle Chatbots, die als KI-Begleiter genutzt werden, müssen vor Veröffentlichung eine Genehmigung bekommen. Die Regierung nimmt sich das Recht heraus, jene Services, die sie als unsicher einstuft, abschalten zu können.

China-Experte Matt Sheehan vom Think Tank Carnegie Endowment for International Peace meint dazu gegenüber dem Wall Street Journal: „Sie wollen Menschen ermutigen, tatsächliche Beziehungen in der echten Welt einzugehen. Könnten wir uns eine Zukunft vorstellen, wo in 3 oder 4 Jahren 15 Millionen chinesische Frauen sagen, dass ihr Partner ein Chatbot ist und sie deshalb keine Kinder haben?“ Er hat den chinesischen Gesetzesentwurf zu KI-Begleitern in einem Blogpost ausführlich analysiert.

Klassische Geschlechterrollen

Im Gegensatz zu westlichen Ländern, wo eher Männer Beziehungen mit KI-„Freundinnen“ eingehen, sind es in China eher Frauen, die in Chatbots einen Partner-Ersatz sehen, schreibt Foreign Policy. Auch für queere Menschen böten solche Services neue Möglichkeiten, denn die Regierung schränke die Community online und offline stark ein.

Die Einheitspartei hat ein klares Bild von Männlichkeit – „verweichlichte Männer“ dürfen etwa nicht mehr im Fernsehen auftreten, wie der Economist meldet. Feminismus werde häufig als destabilisierende Kraft von außen dargestellt, wer kinderfreie Single-Lifestyles positiv bespricht, muss mit Zensur rechnen. Der Typ Mann – jung, sanft, K-Pop-inspiriert – den sich viele Chinesinnen als KI-Begleiter bauen, ist der Regierung vor diesem Hintergrund ein Dorn im Auge.

Tech-Konzerne schränken Funktionen ein

In China gibt es mehrere Anbieter, die sich auf KI-Begleiter spezialisiert haben, die einen Partner oder eine Partnerin simulieren, darunter Xingye, Zhumengdao oder Talkie. Die KI-Apps Qwen von Alibaba und Doubao vom TikTok-Mutterkonzern ByteDance haben laut South China Morning Post bereits Anfang Juli ihre Nutzerinnen und Nutzer informiert, dass manche Chatbot-Funktionen ab Mittwoch eingeschränkt sein würden. Selbst bestehende Chats seien für Nutzerinnen und Nutzer mit Inkrafttreten des Gesetzes nicht mehr verfügbar.

Betroffene sind damit freilich nicht einverstanden. Auf Weibo fragte ein Nutzer in recht drastischen Worten, ob Doubao mit der plötzlichen Abschaltung seiner emotionalen Stütze erreichen wolle, dass er sich umbringe. Eine einfache Exportmöglichkeit für die angesammelten Daten fehlt demnach.

Situation in der EU

In Europa sind KI-Begleiter ebenfalls beliebt. Laut einer Umfrage des Marktforschungsinstituts Ipsos BVA gaben 51 Prozent der 3.800 Befragten an, dass es „einfach“ sei, persönliche Probleme und mentale Gesundheit mit Chatbots zu besprechen, meldet Reuters. Viele davon beschrieben KI als „Lebensberater“ oder „Vertrauten“.

➤ Mehr lesen: Experten empfehlen Social-Media-Verbot in der EU für unter 13-Jährige

Das EU-Parlament ist sich des Phänomens bewusst. Im Mai veröffentlichte es einen Bericht, das sich mit den negativen Auswirkungen von KI-Begleitern und internationalen Regulierungen dazu beschäftigt. In der Union gibt es diesbezüglich derzeit keine spezifischen Vorschriften.