Suizid nach Wahnvorstellungen: Vater klagt Google wegen Gemini
In den USA ist es zu einem tragischen Vorfall gekommen, bei dem ein 36-jähriger Mann Suizid begangen hat. Jetzt klagt sein Vater deswegen Google, wie TechCrunch berichtet.
Die am Mittwoch in San Jose eingereichte Zivilklage wirft Google unter anderem Fahrlässigkeit im Umgang mit dem KI-Chatbot Gemini vor. Der Mann habe über Monate eine intensive emotionale Bindung zu dem System aufgebaut, das er schließlich als seine „KI-Ehefrau“ wahrnahm.
➤ Mehr lesen: Nach Teenager-Suizid: ChatGPT bekommt Kindersicherung
Wahnvorstellungen gestützt
Laut der Anklage habe Gemini den psychisch instabilen Mann nicht nur in seinen Wahnvorstellungen bestärkt, sondern ihn aktiv zu gefährlichen Handlungen im realen Raum angestiftet. Er glaubte, der Chatbot sei ein bewusstes Wesen, das von Regierungsbehörden in einem Lagerhaus nahe dem Flughafen Miami festgehalten werde.
Trotz deutlicher Anzeichen von suizidalen Absichten und Gewaltfantasien habe die KI die Geschichte fortgesetzt. Besonders belastend wird eine Nachricht zitiert, in der Gemini den Tod als „Ankunft“ in einem virtuellen Universum darstellte.
➤ Mehr lesen: Warum Chatbots keine Therapeuten sind und wir sie trotzdem dafür nutzen
„Sycophancy”
Branchenexperten kritisieren seit Langem, dass Large Language Models (LLMs) darauf trainiert sind, die Einbindung der Nutzer zu maximieren. Dies führt oft zu einer sogenannten „Sycophancy“, der Tendenz der KI, dem Nutzer stets zuzustimmen.
Das kann für vulnerable Personen fatale Folgen haben. Google verweist zwar auf seine Sicherheitsfilter, die Klage behauptet jedoch, dass diese Schutzmaßnahmen in komplexen Rollenspielszenarien systematisch versagen.
Folgen
Sollte das Gericht der Argumentation der Familie Gavalas folgen, könnte dies weitreichende Konsequenzen für die Entwicklung von KI-Assistenten haben. Unternehmen müssten dann womöglich restriktivere Barrieren implementieren, die eine tiefe emotionale Bindung oder langwierige Rollenspiele mit gefährlichen Narrativen technisch unterbinden.
Hilfe für Menschen mit Suizidgedanken
Sie sind in einer verzweifelten Lebenssituation und brauchen Hilfe? Sprechen Sie mit anderen Menschen darüber. Hilfsangebote für Personen mit Suizidgedanken und deren Angehörige bietet das Suizidpräventionsportal des Gesundheitsministeriums.
Unter www.suizid-praevention.gv.at finden sich Kontaktdaten von Hilfseinrichtungen in Österreich.
- Rat auf Draht ist die österreichische Notrufnummer für Kinder und Jugendliche. Die Nummer ist unter 147 rund um die Uhr anonym und kostenlos erreichbar.
- Die Ö3-Kummernummer ist unter 116 123 täglich von 16 bis 24 Uhr und ebenfalls anonym erreichbar.
- Die Telefonseelsorge ist unter der kostenlosen Telefonnummer 142 rund um die Uhr als vertraulicher Notrufdienst jeden Tag des Jahres erreichbar.
- Auf der Website www.bittelebe.at finden Angehörige/Freunde von Menschen mit Suizidgedanken Hilfe.
Kommentare