Gefährlich für die Gesundheit: Google entfernt KI-Zusammenfassungen

Erst vor wenigen Tagen hat OpenAI eine ChatGPT-Version explizit für Gesundheitsfragen veröffentlicht. Bei der Konkurrenz zieht man indes Konsequenzen wegen irreführender Antworten zu medizinischen Themen.

➤ Mehr lesen: OpenAI veröffentlicht ChatGPT für Gesundheitsfragen

Google hat einzelne KI-Zusammenfassungen, die über der Suche angezeigt werden, entfernt. Anstoß dafür war eine Guardian-Recherche von Anfang Jänner, die gefährliche Ratschläge von der Google-KI offenbarte. 

Falsche Ratschläge, erfundene Werte

Demnach empfahl Google Menschen mit Bauchspeicheldrüsenkrebs, fettreiche Speisen zu vermeiden. Tatsächlich ist genau das Gegenteil ratsam, so Fachleute gegenüber dem Guardian. Falsche Informationen diesbezüglich könnten das Risiko erhöhen, das Patientinnen und Patienten an der Krankheit versterben.

In einem weiteren Fall gab die KI-Übersicht völlig erfundene Werte zu wichtigen Leberfunktionstests aus. Die Angaben hatten zudem wichtige Faktoren – wie Geschlecht, Ethnizität oder Alter – komplett ausgeblendet. Menschen mit bedenklichen Werten könnten dadurch glauben, gesund zu sein, obwohl sie dringend ärztliche Betreuung bräuchten, heißt es beim Guardian weiter.

➤ Mehr lesen: So deaktiviert man “Übersicht mit KI” in der Google-Suche

Google entfernt lediglich einzelne Antworten

Die Suchmaschine hat daraufhin KI-Übersichten weniger einzelner Anfragen offline genommen. Konkret waren dies (auf Englisch) „Was ist der Normalberich für Leberbluttests“ und „Was ist der Normalbereich für Leberfunktionstests“. Auf Deutsch werden bei diesen beiden Fragen weiterhin KI-Übersichten angezeigt, wie eine Google-Suche der futurezone ergab.

Ein Sprecher von Google erklärte dazu gegenüber dem Guardian, dass man sich nicht zu einzelnen Löschungen innerhalb der Suche äußere: „In Fällen, in denen KI-Übersichten bestimmte Zusammenhänge übersehen, arbeiten wir an allgemeinen Verbesserungen und ergreifen gegebenenfalls Maßnahmen gemäß unseren Richtlinien.“

Experten sehen Gesundheitsempfehlungen der KI kritisch

Leichte Abwandlungen der ursprünglichen – mittlerweile blockierten – Suchanfragen auf Englisch führen weiterhin zu irreführenden KI-Antworten, so der Guardian. Expertinnen und Experten sehen dies kritisch. Es brauche viel mehr als das bloße Vergleichen von Zahlen, um Erkrankungen zu verstehen, erklärt etwa die Lebergesundheitsspezialistin Vanessa Hebditch gegenüber der britischen Zeitung.

„Unsere größte Sorge dabei ist, dass hier nur ein einzelnes Suchergebnis kritisiert wird und Google einfach die KI-Übersichten dafür abschalten kann, ohne das größere Problem der KI-Übersichten für den Gesundheitsbereich anzugehen“, sagt Hebditch. Google betont dagegen, dass KI-Zusammenfassungen nur dann angezeigt werden, wenn das Unternehmen hohes Vertrauen in die Qualität der Antworten habe.

➤ Mehr lesen: KI erkennt 130 Krankheiten im Schlaf

Suchmaschine vs. KI 

Eine Studie, die vergangenen März in der Fachzeitschrift npj digital medicine erschien, kam zum Ergebnis, dass LLMs bei Ja-Nein-Fragen tendenziell öfter korrekte Informationen zu Gesundheitsfragen bereitstellen als klassische Suchmaschinen. Allerdings sind unter manchen Umständen mehr als 30 Prozent der KI-Antworten inkorrekt.

Die Forscherinnen und Forscher betonen, dass sowohl Suchmaschinen- als auch KI-Algorithmen „Black Boxes“ sind, also nicht unabhängig nachvollzogen werden können. Außerdem bezog sich ihre Untersuchung nur auf binäre Fragen wie „Kann Behandlung X Krankheit Y heilen?“. Komplexere Anfragen, etwa zur Interpretation von Blutwerten, wurden in der Studie nicht berücksichtigt.