Warum Alexa zum Mord an Pflegeeltern aufruft

Besitzer eines Smart-Lautsprechers vom Typ Alexa aus dem Hause Amazon berichten immer wieder von erschreckenden Erlebnissen mit der Sprachassistentin, wie reuters schreibt. Amazons Sprachinterface ist meistens höflich und langweilig. Immer wieder kommt es aber vor, dass provokante Aussagen getätigt werden. Ein US-Kunde berichtet etwa, dass Alexa ohne erkennbaren Grund "Bring deine Pflegeeltern um" gesagt habe. Andere Besitzer berichten von unaufgeforderten Aussagen über Geschlechtsverkehr und Hundekot.

Bei diesen Episoden handelt es sich nicht etwa um Aussetzer von Amazons System, sondern um gezielte Versuche, Alexa beizubringen, wie man menschlichere Konversation macht. Verbesserte Technologie erlaubt es Alexa grundsätzlich, mit ihren Nutzern über jedes beliebige Thema zu sprechen. Sicherzustellen, dass sie dabei nicht unflätig wird, ist aber eine Herausforderung. Seit 2016 vergibt Amazon jedes Jahr den Alexa Prize, bei dem Verbesserungen für das Konversationssystem eingereicht werden können. Der erste Preis ist mit 500.000 US-Dollar dotiert.

Entfesselt

Im normalen Modus sind Alexa enge Grenzen gesetzt, was die Themen und Tonalität einer Konversation betrifft. Wenn Nutzer dem System aber sagen "Let's chat", wird der experimentelle Modus, in dem die verbesserten Konversationsfähigkeiten ausprobiert werden, aktiviert. Dann übernehmen die Bots, die von den Teilnehmern am Alexa Prize erschaffen wurden, das Kommando. Zwischen August und November dieses Jahres haben drei derartige Konversationsbots laut Amazon 1,7 Millionen Gespräche mit Nutzern geführt.

Die Alexa-Besitzer werden dann zu Versuchskaninchen für Amazons Bemühungen, einen menschlicher wirkenden Sprachassistenten zu kreieren. Das Risiko, dass Alexa öffentlich unflätige Dinge sagt, nimmt Amazon in Kauf. Das verwundert nicht, gilt der Markt für Sprachassistenten doch als eine der Zukunftshoffnungen der Tech-Branche. Nur wer seine Systeme fleißig trainiert, kann die Nase vorne halten. Amazons Strategie scheint aufzugehen: Die Bots haben heuer schon bessere Bewertungen von den Nutzern bekommen als 2017.

Einige Bots waren Amazon aber doch zu frech. Jeff Bezos persönlich soll schon das ein oder andere Mal eingegriffen und die Entfernung eines Bots befohlen haben, wie Insider gegenüber Reuters bestätigt haben. Der Nutzer, dem Amazon den Elternmord befohlen hat, hat auf Amazons Webseite eine harsche Kritik hinterlassen. Eine interne Untersuchung bei Amazon förderte zu Tage, dass der betroffene Bot ohne Kontext ein Posting auf Reddit zitiert hatte. Die Systeme lernen also auf Basis von Daten aus dem Netz. Dort laufen Konversationen aber nicht immer höflich ab. Amazon sagt, dass solche Vorfälle selten seien, wenn man bedenke, dass schon Millionen von Kunden mit den Bots interagiert hätten.