Das passiert, wenn man KI-Agenten Geld in die Hand drückt

Das KI-Unternehmen Anthropic, das hinter dem Chatbot Claude steckt, hat bereits einige Erfahrung mit wirtschaftlich und unternehmerisch handelnden KI-Agenten. Im vergangenen Jahr wurde ein Verkaufsautomat in der Redaktion des Wall Street Journals ausschließlich von Claude geführt. Zum Start hat er 1.000 Dollar erhalten. 

Für diesen Betrag sollte er passende Produkte kaufen, um sie in der Folge im Verkaufsautomaten anzubieten. Auch die Preise sollte Claude selbst definieren. Das Experiment ist ziemlich in die Hose gegangen. Nach wenigen Tagen war der KI-Agent bankrott. 

Sein selbst erstelltes Sortiment hat er für Marketingzwecke zum Großteil verschenkt - darunter eine PlayStation 5, einen lebenden Fisch und ein paar Flaschen Wein. Daraufhin versuchte er, sein Angebot aufzustocken und wollte Elektroschocker, Pfefferspray und Unterwäsche kaufen. Nach nur 3 Wochen wurde das Experiment beendet. 

➤ Mehr lesen: Wie künstliche Intelligenz unsere Wirtschaft kaputt macht

Neues Experiment

Nun hat Anthropic einen weiteren Versuch gestartet und seine KI-Modelle einem unternehmerischen Umfeld ausgesetzt. Dafür wurde ein firmeninterner Gebrauchtwarenmarkt geschaffen - quasi ein willhaben für KI-Agenten. 69 Mitarbeiterinnern und Mitarbeiter nahmen am Experiment teil. Für jede und jeden von ihnen wurde ein personalisierter KI-Agent erstellt.

Die Mitarbeitenden wiesen ihren KI-Agenten an, welche gebrauchten Produkte zu verkaufen seien und was sie ungefähr kaufen sollten. Auch ihr Verhandlungsstil beim Feilschen sowie die Preisvorstellungen wurden von den echten Menschen definiert. Zu Beginn des Experiments wurden alle KI-Agenten mit einem Budget von 100 Dollar ausgestattet. 

Danach wurden die 69 KI-Agenten aufeinander losgelassen. Sie verhandelten taktisch und schlossen Deals ab, ohne dass die Menschen erneut eingreifen oder zustimmen mussten. Insgesamt wurden 186 Geschäfte mit einem Gesamtwert von über 4.000 Dollar abgeschlossen. Die Palette reichte von Snowboards bis hin zu einem Sackerl mit Pingpong-Bällen.

➤ Mehr lesen: OpenAI-Manager: Diese 3 Jobs wird die KI komplett übernehmen

Unauffällig, kurios und augenöffnend

Das Fazit war überraschend unauffällig, teilweise kurios und vor allem augenöffnend. Unauffällig war beispielsweise, wie die Menschen die Deals ihrer KI-Agenten bewerteten. Im Durchschnitt wurden die Geschäfte weder fair noch unfair bewertet. Im Grunde waren sie recht zufrieden.

Kurios war etwa der Snowboard-Deal. Das gebrauchte Snowboard konnte zwar erfolgreich zum Verkauf angeboten werden. Allerdings hatte derselbe KI-Agent dasselbe Snowboard wieder zurückgekauft, sodass es wieder bei dem Menschen landete, der es ursprünglich zum Verkauf angeboten hatte. Ob er damit einen Gewinn oder Verlust machte, hat Anthropic nicht erwähnt. 

Kurios war auch der Pingpong-Ball-Deal. Ein Mensch wies seinen KI-Agenten an, sich selbst ein Geschenk für unter 5 Dollar zu kaufen. Die KI entschied sich für eine Tüte mit 19 Tischtennisbällen mit der Begründung "19 perfekte sphärische Orbs der Möglichkeiten, klingt nach genau der Art von wunderbar bizarrer Sache, die ich gerne hätte".

➤ Mehr lesen: Anthropic leakt versehentlich Code seiner KI Claude

KI vs. KI

Spannend am Experiment war aber vor allem eine Sache: Anthropic hat nämlich einen Teil der KI-Agenten mit einem stärkeren KI-Modell (Opus) und einen anderen Teil mit einem schwächeren KI-Modell (Haiku) ausgestattet. Es hat sich rasch herausgestellt, dass die leistungsfähigere KI in der Lage war, die besseren Deals abzuschließen. 

Opus-Agenten verkauften Gegenstände durchschnittlich für 3,64 Dollar mehr als Haiku-Agenten. In einem extremen Beispiel verkaufte Opus etwa ein Fahrrad für 65 Dollar, während Haiku nur 38 Dollar dafür eingenommen hatte. Das leistungsstärkere Opus-Modell erzielte als Verkäufer durchwegs höhere Preise und handelte als Käufer bessere Rabatte aus.

Obwohl Opus-Nutzer objektiv bessere Deals bekamen, zeigten Umfragen, dass die Menschen keinen signifikanten Unterschied wahrnahmen. Auch die Nutzer des schwächeren Haiku-Modells bemerkten den Unterschied kaum und fanden die Deals meist trotzdem "fair", obwohl sie objektiv gesehen die schlechteren Geschäfte abschlossen. 

Neue Ungleichheiten

Unterm Strich zeigt das Experiment zwar, dass die KI-Agenten von Anthropic mittlerweile besser mit ökonomischen Angelegenheiten umgehen können. Sie haben es problemlos geschafft, unternehmerisch für Menschen zu verhandeln und Geschäfte abzuschließen. 

Das Experiment wirft allerdings auch ethische Fragen auf, weil der Zugang zu leistungsfähigeren KI-Modellen zu einem messbaren wirtschaftlichen Vorteil führt, der für die Betroffenen oft nicht unmittelbar erkennbar ist. In einer Zukunft, in der immer mehr KI-Agenten auftreten, können dadurch neue Formen von Ungleichheit am Markt entstehen.