Hausaufgaben und Erotik: Was KI-Chatbots wirklich gefragt werden

Seit ChatGPT vor fast 2 Jahren an den Start gegangen ist, hat man viel darüber gehört, wie solche KI-Chatbots genutzt werden können. Es wurde berichtet, wozu diese Künstliche Intelligenzen imstande seien und wie hilfreich sie sein können. 

Wie aber diese Chatbots tatsächlich von Nutzern verwendet werden, blieb bislang weitgehend unbekannt. Nun hat das Forschungsinstitut "Allen Institute for Artificial Intelligence" untersucht, mit welchen Anfragen die ChatGPT und Co. konfrontiert werden. 

Um das herauszufinden, wurde ein eigener Chatbot namens WildChat entwickelt, der auf die ChatGPT-Technologie zurückgreift. Mehr als eine Million Interaktionen wurden gesammelt und ausgewertet. Das sei ausreichend, sodass die Studie auch Rückschlüsse auf die Nutzung vergleichbarer KI-Chatbots zulässt, heißt es in einem Bericht der Washington Post. 

➤ Mehr lesen: 10 kostenlose KI-Bildgeneratoren im Vergleichstest

Kreative Prozesse im Mittelpunkt

Demnach dreht sich ein Fünftel der Interaktionen um kreative Prozesse. Die Künstliche Intelligenz wird dabei beim Schreiben von Geschichten, Drehbüchern, Witzen und Gedichten zurate gezogen. Ebenso fragen Nutzer die Chatbots um Hilfe, wenn es um das Entwickeln von Charakteren in Rollenspielen und Büchern geht. Auch bei der Namensfindung von Unternehmen und beim Erstellen von Dialogen wird auf die KI zurückgegriffen. 

Bei ungefähr jeder 6. Anfrage werden die Künstlichen Intelligenzen nach Hilfe bei Hausübungen oder anderen schulischen Aufgaben gefragt. Ansonsten spielen noch Interaktionen eine tragende Rolle, die sich um das Programmieren von Software, Verfassen von Anschreiben und Übersetzungen drehen. 

➤ Mehr lesen: Rezeptvorschlag von Google-KI hätte Familie fast vergiftet

Erotische Unterhaltungen

Mehr als 7 Prozent der Konversationen drehen sich um anzügliche Inhalte. Dabei werden die Chatbots beispielsweise nach freizügigen Bildern gefragt und es wird versucht, sie in erotische Unterhaltungen zu verwickeln - all das jedoch mit wenig Erfolg. 

Die allermeisten KI-Chatbots haben nämlich Beschränkungen eingebaut, wenn es um derartige Inhalte geht. Das hindert die Nutzer aber nicht daran, hartnäckig zu bleiben und mit ausgefeilten Anfragen zu versuchen, zumindest ein klein wenig Erotik aus den digitalen Gesprächspartnern herauszulocken. 

➤ Mehr lesen: Warum die Gemini-KI keine Google-Suche ist

KI-Chatbots sind keine Suchmaschinen

Rund 16 Prozent der Anfragen wären wohl bei herkömmlichen Online-Suchmaschinen besser aufgehoben, weil es sich dabei um klassische Suchbegriffe handelt. ChatGPT und Co. sind nämlich nicht zu verwechseln, mit der Google-Suche und anderen Search-Diensten. Die KI-Chatbots bauen auf generativen Sprachmodellen auf, deren zentrale Funktion das kreative Erstellen von Inhalten ist. Die fragwürdige Handhabung von Fakten ist daher leider keine Seltenheit. 

Für Chatbots, die auf Künstlicher Intelligenz aufbauen, gebe es keine Bedienungsanleitung, erklärt einer der beteiligen Forscher gegenüber der Washington Post. Er geht davon aus, dass die Nutzer den Umgang mit KI-Programmen genauso erlernen werden, wie sie sich die Nutzung von Online-Suchmaschinen angeeignet haben.