KI-Shopping-Assistent waren eigentliche Menschen auf den Philippinen

Häufig werden neue digitale Produkte  mit ihren KI-Funktionen vermarktet. Aber nicht in jedem Fall können die Produkte ihre Versprechen halten, wie ein aktueller Fall aus den USA zeigt.

➤ Mehr lesen: "Irgendwas mit KI": Das neue Paradies für Wichtigtuer

Im Falle einer Shopping-App namens Nate war die Intelligenz nämlich tatsächlich gar nicht so künstlich wie versprochen, sondern sehr menschlich. Hinter der vermeintlichen KI steckten nämlich in Wirklichkeit hunderte Mitarbeiter eines philippinischen Callcenters.

Betrug 

In den USA muss sich der Gründer von Nate nun deshalb wegen Betrugs verantworten. Gegen den 35-jährigen Gründer und Ex-CEO Albert Saniger wurde kürzlich Anklage erhoben, weil er Investoren bezüglich der KI getäuscht haben soll, wie aus einer Presseaussendung des US-Justizministeriums hervorgeht.

Er soll den Investoren, die ihm über 50 Mio. Dollar für seine vor 7 Jahren veröffentlichte App gaben, bestimmte KI-Fähigkeiten versprochen haben. Stattdessen hat er dann aber heimlich ein Callcenter auf den Philippinen beauftragt, die Aufgaben der KI zu erledigen.

➤ Mehr lesen: KI aus Österreich soll besser sein als ChatGPT 

"KI" wählte Schuhgröße automatisch

Nate wurde als besonders innovative App vermarktet, die Shopping für seine Kunden durch KI grundlegend vereinfachen sollte: Sie sollte etwa den Bezahlvorgang für sie autonom abwickeln. Ein Klick sollte reichen, um ein Produkt kaufen zu können. Man sollte sich bei Nate nicht langwierig mit der Eingabe von Details plagen. Wenn jemand etwa ein Paar Schuhe kaufte, wurde der Bezahlvorgang „automatisch“ von der KI durchgeführt – sie sollte die Größe wählen, Rechnungs- und Versanddaten eingeben und schließlich den Kauf bestätigen.

Bei der KI-Entwicklung soll es dann allerdings zu Problemen gekommen sein. Es ist technisch nicht gelungen, die Vorgänge wie versprochen KI-gestützt abzuwickeln – sie war nicht zuverlässig.

Callcenter engagiert

In seiner Not engagierte das Start-up Nate dann das Callcenter im Ausland, in dem hunderte Menschen die Transaktionen im Geheimen manuell abwickelten. Sie sollen sogar gezielt Aktionen einer vermeintlichen KI nachgeahmt haben, damit die Täuschung perfekt war. Zumindest zwischenzeitlich seien aber auch KI-Bots eingesetzt worden.

➤ Mehr lesen: Gruselig menschliche KI im Test: Ich habe mit Miles telefoniert

Der kuriose Fall aus den USA zeigt ein Problem auf, das auch hierzulande existiert – oft versprechen Start-ups und andere Unternehmen außergewöhnliche KI-Funktionen, die sich dann aber als überzogen herausstellen.