Warum Chatbots keine Therapeuten sind und wir sie trotzdem dafür nutzen

Bei 95 Prozent der jungen Österreicher sind ChatGPT, Google Gemini und andere KI-Systeme bereits Teil des Alltags. Das ergab eine Befragung von Google und dem Handelsverband im Mai.

„Virtuelle Begleiter, die uns assistieren, werden in unseren täglich verwendeten Programmen in den nächsten 12 bis 24 Monaten eine wachsende Rolle spielen. Damit sind aber auch Risiken verbunden“, erklärt Edmond O’Connor, kaufmännischer Leiter des ADAPT-Centers am Trinity College in Dublin. Dort gastierten im Mai österreichische Forscher und Innovationsmanager, die im Rahmen einer Studienreise der Austrian Cooperative Research (ACR) mehrere irische Forschungseinrichtungen besuchten.

➤ Mehr lesen: “Bitte, liebes ChatGPT”: Warum wir zur KI so höflich sind

KI hat viele Gesichter

Viele von uns chatten schon jetzt regelmäßig mit ChatGPT. Künftig werden wir solchen Systemen nicht nur häufiger, sondern auch in vielfältigerer Gestalt begegnen. Apple hat etwa eine verbesserte Siri als redende Assistentin am iPhone versprochen. Hologramme könnten ebenso mit uns sprechen wie KI-Videos oder Avatare, denen man schon jetzt in Apps wie Replika begegnet. Für die intelligenten Inhalte werden auch in Zukunft noch sogenannte Large Language Models (LLMs) sorgen, die bereits jetzt bei ChatGPT und Co im Hintergrund arbeiten.

Wie wir die virtuellen Assistenten in Zukunft tatsächlich nutzen werden, ist noch unklar. Maßgeblich hängt das auch von den Nutzern ab. 

Zumindest lassen sich schon jetzt einige Trends beobachten: Oft wollen wir Menschen uns von der KI helfen lassen. Während viele berufliche Aufgaben an die Künstliche Intelligenz delegieren, haben andere sie im Privatleben als Helferlein entdeckt. So gibt die KI etwa Tipps beim Kochen und Heimwerken. 

Chatbots sind als Therapeuten ungeeignet

Beliebt ist auch die Lebensberatung: Jeder 6. Österreicher zwischen 13 und 28 Jahren holt sich bereits Rat von der KI, wenn es um Beziehungsfragen oder persönliche Probleme geht. Experten warnen aber davor, statt einem Psychotherapeuten einen Chatbot zu konsultieren. 

Viele Nutzer lassen sich davon nicht abhalten: Im Netz kommentieren sie direkt unter die mahnenden Worte der Experten und schildern ihre vermeintlichen Therapieerfolge. Sie betonen das harmonische Verhältnis mit dem Chatbot, außerdem sei die KI günstiger und zugänglicher als die Therapie.

„Es gibt Situationen, in denen wir bei der Zusammenarbeit mit diesen KI-Agenten sehr vorsichtig sein müssen, darunter im Gesundheitsbereich“, erklärt der auf Mensch-Computer-Interaktion spezialisierte Psychologe Benjamin Cowan, der am ADAPT-Center tätig ist. Experten würden deshalb in diesen Anwendungsbereichen zu Recht zurückhaltend sein und mehr Mitspracherecht fordern. „Laut Experten für psychische Gesundheit geben die Systeme keinen guten Rat. Die Folgen können sogar fatal sein“, so Cowan: „Sie geben auch falsche Ratschläge oder sagen es auf eine unangemessene Weise.“ 

Selbstbewusstes Auftreten und Wohlgefühl

Seine Experimente zeigen, dass viele Nutzer falsches Vertrauen in die Systeme setzen. „Wir sehen in unserer Forschung, dass viele entweder über- oder unterschätzen, was solche Systeme können“, sagt Cowan: „Diese Modelle geben uns manchmal ausgesprochen selbstbewusst Antworten auf Fragen – die müssen aber nicht immer stimmen.“ 

Psychologisch täuscht uns die KI also mit ihrem „Selbstbewusstsein“. Denn LLMs sind darauf optimiert, dass wir uns bei der Interaktion mit ihnen wohl fühlen und die Gespräche sich dadurch so natürlich wie möglich anfühlen. 

➤ Mehr lesen: Danah Boyd: "Soziale Medien sind kein Ort mehr für echte Kontakte"

Nutzer wünschen eine Therapie mit KI

Zugleich zeige Cowans Forschung, dass die KI in einer Therapie sehr wohl eine unterstützende Rolle spielen könne. „Die Nutzer finden KI-Agenten in vielerlei Hinsicht nützlich. Etwa weil sie das Gefühl bekommen, dass sie dort Dinge sagen können, ohne beurteilt zu werden und der Zugang so niederschwellig ist“, meint Cowan: „Wie bei einem Tagebuch können Patienten ihre momentane Stimmungslage damit aufzeichnen. Als Begleiter kann KI hier sehr nützlich sein, weil man seine Stimmung ehrlich teilen kann.“ Für die Therapie würden so wertvolle Daten bereitgestellt. 

Um solche Lösungen zu finden, müsse man in vielen Fällen allerdings zunächst genauer untersuchen, wie wir Menschen überhaupt mit unseren neuen Gefährten kommunizieren – denn das ist Neuland. Cowan interessiert beispielsweise auch die Kooperation mit dem Kundendienst der Zukunft. Für eine Investmentfirma untersucht er etwa am ADAPT-Center, wie viel Vertrauen Menschen bei Finanzentscheidungen in KI-Berater haben und wie sich von der KI gemachte Fehler auf die Kundenbeziehungen auswirken.

Dieser Artikel entstand in redaktioneller Unabhängigkeit auf Einladung der Austrian Cooperative Research (ACR).