Digital Life
09.07.2018

Pseudo-KI: Warum Menschen so tun, als wären sie Roboter

Hinter zahlreichen KI-Diensten stecken eigentlich menschliche Mitarbeiter - sowohl bei Start-ups als auch großen Konzernen.

Dank digitaler Assistenten wie Alexa, Cortana und Siri sind Gespräche mit Robotern mittlerweile keine Besonderheit mehr. Doch man sollte aufpassen, was man gegenüber den vermeintlich virtuellen Gesprächspartnern sagt – oftmals steckt ein Mensch dahinter. Denn obwohl für viele Technologie-Konzerne und Start-ups kein Problem unlösbar scheint, ist die Entwicklung von „künstlicher Intelligenz“ ein zeitaufwändiges und kostspieliges Unterfangen. Stattdessen greifen immer mehr Unternehmen, von Google und Facebook bis hin zu kleinen Start-ups, auf Menschen zurück, die den Roboter spielen.

Die „Pseudo-KIs“ sind weiterverbreitet als man glaubt. Das Vorgehen wird als die „Zauberer von Oz“-Methode bezeichnet. Benannt nach dem gleichnamigen Kinderbuch, in dem ein alter Mann vorgab, Zauberkräfte zu besitzen, nehmen hier Menschen die Rolle von Robotern ein. Die Methode wird vor allem von Start-ups eingesetzt, die so überprüfen können, ob sich eine Geschäftsidee lohnt, doch zuletzt haben auch große Konzerne den „Zauberer von Oz“ für sich entdeckt.

Auch Facebook und Google tricksen

Hinter Facebooks KI-Assistenten „M“ standen eigentlich „mehrere dutzend Mitarbeiter“, die die Anfragen der Nutzer beantworteten. „M“ war lediglich für wenige hundert Nutzer in San Francisco verfügbar und wollte ein wahrer persönlicher Assistent sein. Seien es nun Blumen, die zum Geburtstag an die Mutter geschickt werden sollten, eine Flugbuchung für eine kurzfristige Reise oder eine Pizzabestellung – „M“ sollte all diese Aufgaben auf Wunsch übernehmen können. Doch die komplexen Bestellvorgänge übernahmen in Wirklichkeit Menschen, die die Nachricht der Nutzer kategorisierten. Der Dienst wurde Anfang des Jahres eingestellt, eine Handvoll der KI-Features wanderte in Facebooks Messenger-App.

Auch Googles neuestes KI-Experiment Duplex setzt stark auf Menschen im Hintergrund. Duplex kann selbstständig bei Restaurants und Frisören anrufen und Reservierungen vornehmen. Der US-Konzern verblüffte bei der Demonstration damit, wie echt der Roboteranruf klang: Die Software erkannte auch komplexe Satzstrukturen und streute immer wieder „Ähm“ und Sprechpausen an, um wie ein Mensch zu wirken. Doch während der Testphase, die in den kommenden Wochen starten soll, werden alle Anrufe von Menschen überwacht, die im Notfall den Anruf übernehmen können.

Ehrlicher gegenüber Robotern

Die Vorzüge der Methode sind klar: Man erspart sich die kostspielige Entwicklung einer Technologie und kann diese sofort im Alltag erproben. „Man simuliert, wie sich etwas anfühlen wird. Wie so oft bei KI, sitzt eigentlich ein Mensch hinter dem Vorhang statt eines Algorithmus“, sagt Allison Darcy, Entwickler des Woebot, ein Therapie-Chatbot, der Menschen mit Depressionen und anderen psychischen Problemen helfen soll. Doch zugleich wirft der „Zauberer von Oz“ vor allem ethische Fragen auf. Wie Studien zeigen, verhalten sich Menschen gegenüber Computerprogrammen ehrlicher und offener – auch weil sie keine Angst haben, von ihrem Gegenüber verurteilt zu werden.

Aus diesem Grund verzichtet auch der Woebot bewusst auf Menschen im Hintergrund, um das Vertrauen seiner Nutzer zu bewahren. Auch Google kündigte zuletzt an, dass Duplex sich künftig klar als Roboter zu erkennen geben soll – obwohl viel Aufwand darin gesteckt wird, die Technologie menschlich wirken zu lassen.

Hoher Aufwand für Menschen

Die „Zauberer von Oz“-Methode bereitet aber auch Probleme in der hart umkämpften Start-up-Welt. Jungunternehmen, die Probleme mit künstlicher Intelligenz lösen können, werden derzeit mit Risikokapital überhäuft. Viele Unternehmen überschätzen ihre Fähigkeiten und müssen verstärkt auf Menschen zurückgreifen, um ihre Versprechen einhalten zu können. Das beste Beispiel dafür lieferte das deutsche Start-up GoButler, bei dem unter anderem der bekannte TV-Moderator Joko Winterscheidt als Investor auftrat. Wie Facebooks „M“ war GoButler ein „digitaler Concierge“, der Aufträge des Nutzers erledigte.

Weil die KI-Technologie fehlte, mussten rund um die Uhr Menschen Anfragen beantworten. Der Aufwand war dermaßen groß, dass die Mitarbeiter nicht einmal für die Mittagspause den Schreibtisch verlassen durften. Selbst die Teilnahme an der Weihnachtsfeier musste in 30-Minuten-Schichten eingeteilt werden, um die Verfügbarkeit zu gewährleisten. Zu Spitzenzeiten mussten Mitarbeiter bis zu zehn Anfragen gleichzeitig beantworten. 

„Jeder fühlte sich überarbeitet und nicht gewertschätzt“, sagte ein ehemaliger Mitarbeiter gegenüber Bloomberg. Die Folge: Das Unternehmen musste laufend Mitarbeiter abbauen und konzentrierte sich zum Schluss nur mehr auf Flugbuchungen, bis es 2016 komplett eingestellt wurde.

Heikle Daten werden von anderen gelesen

Ähnliche Berichte gibt es über den US-Konkurrenten X.ai, der die Terminfindung übernehmen soll. Obwohl diese Aufgabe bereits zum Teil von Algorithmen gemeistert werden kann, müssen dennoch oft Menschen einspringen. Ehemalige Mitarbeiter beschreiben die Arbeit, die bis zu zwölf Stunden pro Tag dauert, als „langweilig“ und „unglaublich frustrierend“ – auch weil der vermeintliche virtuelle Gesprächspartner „Amy“ bis zu zehn Mal pro Monat nach sexuellen Gefälligkeiten gefragt wird.

Problematisch wird es auch, wenn persönliche oder heikle Daten nicht nur wie angegeben verarbeitet werden. Erst vergangene Woche sorgte ein Bericht des Wall Street Journal für Aufsehen, wonach zwei Start-ups E-Mails von Menschen statt, wie behauptet, einer künstlichen Intelligenz analysieren ließen. In diesem konkreten Fall sollten die Menschen die Leistung der KI überprüfen und mögliche Fehler bei der Kategorisierung der E-Mails korrigieren.

Immer wieder lagern Start-ups Aufgaben über Crowdworking-Plattformen wie Amazons Mechanical Turk an Dritte aus. Das Start-up Expensify, das das automatisierte Digitalisieren von gedruckten Rechnungen versprach, sorgte so für Schlagzeilen. Unbekannte Dritte statt Computer-Algorithmen übernahmen das mühsame Abtippen der Rechnungsdetails, während das Start-up weiterhin an der bereits beworbenen Technologie arbeitete.

Mehr Menschen angestellt

Dass sich am Zusammenspiel zwischen Menschen und Algorithmen rasch etwas ändern wird, ist unwahrscheinlich. Viele komplexe Aufgaben, wie das Erkennen von rechtlich und moralisch fragwürdigen Inhalten, wird nach wie vor an Menschen ausgelagert – oftmals zu einem hohen Preis. Google-Mitarbeiter mussten sich bereits nach kurzer Zeit in dieser Position einer Therapie unterziehen. Insbesondere Facebook, das immer wieder auf das Potenzial künstlicher Intelligenz verweist, investiert verstärkt in menschliche Moderatoren. Allein dieses Jahr soll die Zahl der für Community und Sicherheit zuständigen Mitarbeiter von 10.000 auf 20.000 verdoppelt werden.