"Die Überwachungs-Barbie ist ein Wolf im Schafspelz"

Bereits 1877 hat Thomas Edison in sein Notizbuch geschrieben, dass er bei Kommerzialisierungsstrategien seiner phonographischen Erfindung als erstes an Kinderspielzeug denkt. Er wollte Puppen reden, singen und weinen lassen und sämtliche Spielsachen wie etwa Tiere, Fahrzeuge oder Züge mit entsprechenden Klängen ausstatten.

Dass Hunde bellen und Puppen einige Wörter sprechen, ist längst keine Besonderheit mehr. Wenn aber Mattel eine Barbie-Puppe auf den Markt bringt, die mit Spracherkennung sowie WLAN-Modul ausgestattet ist und hinter der eine künstliche Intelligenz steckt, sodass sie mit Kindern in Interaktion treten kann, dann sorgt das für Aufsehen und Bedenken. Und so ist die "Hello Barbie" mittlerweile zu zweifelhaftem Ruhm gekommen, hat scharfe Kritik einstecken müssen sowie in Deutschland und Österreich einen "Big Brother Award" gewonnen.

"Klarer Vertrauensbruch"

Nicht nur sicherheits- und datenschutztechnisch ist die Hello Barbie umstritten, auch der pädagogische Nutzen der smarten Puppe ist zweifelhaft. "Man stelle sich folgendes Szenario vor: Das Kind zieht sich in das Kinderzimmer zurück, um im privaten, teilweise sehr intimen Kontext mit der Puppe zu kommunizieren. Kinder empfinden diese Privatsphäre als geschützten Raum, in dem natürlich der Puppe als einer guten Freundin auch kleinere und größere Geheimnisse anvertraut werden. Hello Barbie ist aber vernetzt und übermittelt die aufgenommenen Tondokumente an eine Serverfarm, die wiederum die Daten für Marketingzwecke verwenden kann", sagt Thomas Strasser, Hochschulprofessor für Fremdsprachendidaktik und technologieunterstütztes Lernen und Lehren an der Pädagogischen Hochschule Wien.

"Dies stellt ein eklatantes Eindringen in die Privatsphäre des Kindes dar. Neben des möglichen Missbrauchs des Datenschutzes durch eine gewinnorientierte Firma besteht die noch bedenklichere Komponente darin, dass sich die Eltern die Tondokumente ohne das Wissen der Kinder anhören können, was in pädagogischer Hinsicht einen klaren Bruch im Vertrauensverhältnis Eltern-Kind darstellt."

8000 Zeilen Dialoge

Um eine passende Antwort geben zu können, durchsucht die Hello Barbie aber nicht das Web, wie Siri oder Cortana das tun, sondern greift auf ihre Content-Library zurück, die von ToyTalk in Kooperation mit Mattel entwickelt wurde. Insgesamt hat das kalifornische Unternehmen rund 8000 Zeilen Dialoge geschrieben. Es sei allerdings höchst problematisch, sollte die Hello Barbie etwas falsch verstehen und daher eigenartige Antworten geben oder unpassende Ratschläge erteilen. Bei Siri und Cortana sei das weniger kritisch, da die User wüssten, wie derartige Falsch-Antworten einzuordnen sind, erklärt Strasser.

Für Kinder, die aufgrund ihres Alters noch mit Puppen spielen, sei es aber unmöglich solche Technologien zu begreifen und entsprechend zu bewerten. "Sie treten vermeintlich einer naiven Puppe gegenüber und werden plötzlich umgekehrt von der Puppe ausgefragt, ohne das Wissen, dass auf 'der anderen Ende der Leitung' die eigenen Eltern oder Herstellerfirmen stehen. Die Puppe agiert als ein digital-analoger Wolf im Schafspelz", sagt Strasser. "Durch die Altersinadäquatheit entfällt deshalb auch ein mögliches pädagogisches Argument für die Einführung der Puppe, nämlich die Kinder auf den Umgang mit digitalen Medien vorzubereiten."

Konversationen werden gespeichert

Will ein Kind mit der Hello Barbie reden, muss es einen kleinen Knopf drücken, der sich auf dem Gürtel der Barbie befindet. Anschließend zeichnet die Puppe auf, was ihr das Kind anvertraut. Diese Konversation wird an ein Rechenzentrum übertragen und dort analysiert, sodass die Barbie entsprechend antworten kann.

Wie Oren Jacob, CEO und einer der Gründer von ToyTalk, das Unternehmen, das den "smarten Teil" der Barbie entwickelt hat, gegenüber der futurezone erklärt, wird die Konversation zwischen Puppe und Kind auf ToyTalk-Servern gespeichert: "Diese Daten werden zwei Jahre lang verwahrt. Allerdings können die Konversationen von den Eltern jederzeit angehört, gelöscht oder geteilt werden." Dies geschieht mithilfe der entsprechenden App für Smartphones und Tablets.

Auf die Frage, ob die Konversationen der Kinder auch mit Dritten geteilt werden, reagiert ToyTalk ausweichend und beteuerte gegenüber der futurezone, dass die aufgezeichneten Daten keinesfalls dazu verwendet werden, um Kinder zielgerichtet oder direkt mit Werbung anzusprechen. Allerdings finden sich in der Hello-Barbie-Datenschutzerklärung einige äußerst schwammige Formulierungen, die darauf schließen lassen, dass die Konversationen sehr wohl zu Marketingzwecken ausgewertet werden könnten.

Sicherheitsrisiko

Darüber hinaus ist natürlich zu hinterfragen, wie sicher die Netzwerkverbindung der Barbie selbst beziehungsweise wie abgesichert der Speicherplatz der Daten ist. Man denke nur an bereits aufgedeckte Sicherheitslücken der Hello Barbie beziehungsweise an den Hack des Lernspielzeug-Anbieter VTech.

"Natürlich besteht die Gefahr, dass die Aufzeichnungen der Konversationen in falsche Hände geraten oder gestohlen werden", sagt Linus Neumann, vom Chaos Computer Club zur futurezone. "Allgemein hängt das zunächst von der Promiskuität des Betreibers ab, der sicherlich alle Möglichkeiten der Vermarktung ausloten wird. Dann kommt den Eltern die Verantwortung zu, den Zugang ausreichend zu sichern und zu guter Letzt besteht natürlich auch das Risiko eines Angriffs durch Kriminelle oder Geheimdienste."

Überwachungs-Mechanismen

Dass sich die Hello Barbie mittlerweile die wenig schmeichelhafte Bezeichnung Überwachungs-Barbie eingebracht hat, kommt nicht von ungefähr. Denn ein weiterer Kritikpunkt an der "intelligenten Puppe" ist, dass mit ihr Kinder an die Mechanismen der Alltagsüberwachung gewöhnt werden.

"Cloud-basierte Spracherkennung im Kinderzimmer wird einen Großteil der gesunden Skepsis im Umgang mit Technologien auflösen, die in den intimsten Kernbereich unserer Privatsphäre vordringen - um diesen zu Monetarisieren", sagt Neumann, der bei den deutschen Big-Brother-Awards die Laudatio auf die Hello Barbie gehalten hat.

Derzeit nur in den USA

Die Puppe ist derzeit ausschließlich in den USA erhältlich. "Sollte die Hello Barbie ein Riesenerfolg werden, müssen wir natürlich über einen Marktstart in Europa nochmals reden", erklärt Mattel gegenüber der futurezone. "Die strengeren europäischen Datenschutzbestimmungen beeinflussen diese Entscheidung nicht. Warum die Puppe in Europa nicht in den Handel kommt, liegt an der Schwierigkeit der Übersetzung der Dialoge."