OpenAI veröffentlicht ChatGPT für Gesundheitsfragen

Jede Woche stellen weltweit über 230 Millionen Menschen Fragen zur Gesundheit auf ChatGPT, heißt es von OpenAI. Gerade in Gesundheitsfragen sind Fehlinformationen besonders heikel. Es ist bekannt, dass KI-Chatbots halluzinieren. 

OpenAI hat deshalb nun “ChatGPT Gesundheit” veröffentlicht. Ein Tool, das Daten besser schützen und verlässlichere Informationen liefern soll. Nur wenige Menschen können das Tool schon jetzt nutzen.

Fragen zu Befunden stellen 

Mit “ChatGPT Gesundheit” soll es möglich sein, medizinische Unterlagen wie Befunde hochzuladen und dem KI-Chatbot Fragen dazu stellen zu können. Auch die Verbindung mit Gesundheitsdaten von Gesundheitsapps, wie Apple Health, kann damit ermöglicht werden. 

So soll man einen Gesamtüberblick über alle zur Verfügung gestellten Gesundheitsinformationen erhalten. “ChatGPT Gesundheit” kann dadurch beispielsweise Laborergebnissen in leicht verständlicher Sprache übersetzen, bei der Vorbereitung für Arztermine helfen oder Daten von Wearables interpretieren. 

➤ Mehr lesen: ChatGPT hat jetzt einen eigenen App-Store

Besserer Datenschutz 

Wer bisher Gesundheitsfragen mit ChatGPT geteilt hat, ist ein Risiko eingegangen. Denn Informationen, die man mit dem KI-Chatbot teilt, können auch öffentlich verfügbar werden bzw. werden für das KI-Training genutzt. Bei “ChatGPT Gesundheit” soll aber mehr Fokus auf Datenschutz und Sicherheit gelegt werden. 

Laut OpenAI wurde das Tool mit Schutzmaßnahmen, wie einer “speziell entwickelten Verschlüsselung”, ausgestattet, um Gesundheitsinformationen geheim zu halten. Außerdem findet man es in einem separaten Bereich von ChatGPT, sodass sensible Daten getrennt von anderen Chats gespeichert werden. “Gespräche in ChatGPT Gesundheit werden nicht genutzt, um unsere Foundation-Modelle zu trainieren”, heißt es von OpenAI.

Auch wenn es nun verbesserte Sicherheitsmaßnahmen gibt, bleibt immer ein Restrisiko, dass Daten in die falschen Hände gelangen. Denn im März 2023 hatten einige Nutzerinnen und Nutzer die Möglichkeit, Informationen wie Nachrichten, Namen, Mail-Adressen oder Zahlungsinformationen einzusehen, wie TheVerge berichtet hat. Auch wenn es zu einer gerichtlichen Anordnung kommt, muss OpenAI Zugang zu den Informationen ermöglichen.

Die Gefahr von Halluzinationen 

Es ist ein bekanntes Problem, dass KI-Chatbots oft Informationen anführen, die aber in Wahrheit gar nicht stimmen. Um das zu vermeiden, wurde das neue Tool laut OpenAI in Zusammenarbeit mit Ärztinnen und Ärzten entwickelt. Seit 2 Jahren arbeite das Unternehmen bereits daran. 

Ein von OpenAI mit Fachpersonal entwickelter klinischer Standard namens “HealthBench” soll einen verlässlichen Bewertungsrahmen für Gesundheitsinformationen liefern. Dennoch sollte man immer skeptisch bleiben und in kritischen Situationen ärztlichen Rat einholen. “ChatGPT Gesundheit” soll das Gesundheitswesen unterstützen und Fachpersonal nicht ersetzen. Für Diagnostik oder Behandlung sollte es deshalb nicht eingesetzt werden. 

➤ Mehr lesen: Neues GPT-5.2 ab sofort in ChatGPT verfügbar: Das ändert sich

Was ist mit der psychischen Gesundheit? 

Liest man sich den Blogpost von OpenAI durch, hat man den Eindruck, dass das neue Tool hauptsächlich für die Verbesserung der körperlichen Gesundheit gedacht ist. Von mentaler Gesundheit wird darin kaum gesprochen. 

Das liegt wahrscheinlich auch daran, dass OpenAI mit dem Vorwurf konfrontiert ist, zum Suizid von Jugendlichen beigetragen zu haben, da diese zuvor ChatGPT um Rat gefragt haben. Bei einer Pressekonferenz sagte der zuständige CEO Fidji Simo: “Die psychische Gesundheit ist zweifellos Teil der allgemeinen Gesundheit, und wir beobachten, dass sich viele Menschen für Gespräche über psychische Gesundheit an ChatGPT wenden.” 

“ChatGPT Gesundheit” soll also auch mit Fragen zur psychischen Gesundheit umgehen können und in Notfällen besser reagieren bzw. an medizinisches Fachpersonal verweisen, so OpenAI. 

➤ Mehr lesen: 5 unerwartete Dinge, die man mit ChatGPT, Gemini und Co machen kann

Nur für eine kleine Gruppe verfügbar

Aktuell ist “ChatGPT Gesundheit” nur für eine kleine Gruppe an Nutzerinnen und Nutzern verfügbar. Das liegt daran, dass OpenAI das Tool noch weiter mithilfe von User-Feedback verbessern möchte. 

Um das Tool nutzen zu können, muss man sich auf die Warteliste setzen lassen und erhält dann Zugang. In der EU, Großbrittanien und der Schweiz ist das aufgrund von strengen Datenschutzvorgaben vorerst aber nicht möglich. Die Integration von elektronischen Gesundheitsakten ist aktuell auch nur in den USA möglich.