Persönliche Chats mit Claude in Websuche aufgetaucht

Einen KI-Chatbot zu fragen, fühlt sich oft weit privater an, als mit einem Menschen zu reden. Viele diskutieren daher mit ChatGPT, Claude oder Gemini Dinge, die sie von Angesicht zu Angesicht aus verschiedenen Gründen nicht ansprechen würden: „Habe ich mit diesem Verhalten gegen die Branchenregeln als Anwalt verstoßen und müsste ich das melden?“, „Das sind meine Crypto-Keys, wie erstelle ich ein Wallet?“ oder „Schreibe eine Rezension zu meinem Buch“.

All das sind echte Beispiele von Chats mit Claude. Und sie waren bis vor Kurzem über eine simple Site-Search, z.B. über Google auffindbar. Das berichtet die BBC mit Verweis auf einen viralen Reddit-Post.

➤ Mehr lesen: Diesen KI-Chatbots könnt ihr eure Geheimnisse anvertrauen

Chats von Google indexiert

Es ist unwahrscheinlich, dass die Nutzerinnen und Nutzer wussten, dass Fremde ihre Chats im Web finden und lesen können. Zwar haben sie die entsprechenden Chats „geteilt“, d.h. einen Link dafür erstellt, doch vermutlich war den wenigsten bewusst, dass das dazu führen könnte, dass sie in der Google-Suche landen.

„Wenn jemand eine Unterhaltung teilt, macht er diese Inhalte öffentlich zugänglich, und wie bei anderen öffentlichen Webinhalten kann es sein, dass sie von Drittanbietern archiviert werden“, erklärt eine Anthropic-Sprecherin gegenüber der BBC. Die entsprechenden Links seien allerdings nicht erratbar. 

Google hatte die Chats dennoch indexiert. Auch bei Bing, DuckDuckGo und Brave tauchten sie auf. „Wir geben Seitenbesitzern eindeutige Kontrollmöglichkeiten, ob Seiten gecrawlt oder indexiert werden können, und wir respektieren diese Anweisungen immer“, wird ein Google-Sprecher von der BBC zitiert.

Subreddit macht sich lustig

Zu größerer Bekanntheit kamen die einsehbaren Chatbot-Unterhaltungen dann durch das Subreddit ClaudeAI. Nutzerinnen und Nutzer wühlten sich durch verfügbare Chats und teilten die lustigsten, gefährlichsten und absurdesten Ausschnitte mit der Community.

Oft genug ließen sich die entsprechenden Claude-Userinnen und User recht einfach eindeutig identifizieren, auch in Zusammenhang mit vertraulichen Geschäftsinformationen oder sexuellen Fantasien.

Ähnliche Vorfälle bei OpenAI und Grok

Mittlerweile hat Anthropic jedoch reagiert. Bei einer Suche nach „site:claude.ai/share“ werden bei keiner Suchmaschine mehr Ergebnisse angezeigt. Über Reddit sowie einzelne Projekte auf GitHub sind die bereits bekannten Chats allerdings weiterhin auffindbar.

Das Problem beschränkt sich nicht auf Claude allein: Bei ChatGPT war es vergangenes Jahr zu einem ähnlichen Vorfall gekommen. OpenAI hat daraufhin verändert, wie leicht geteilte Chats im Web auffindbar sind. Und auch Grok-Chats wurden in der Vergangenheit in Google-Ergebnissen angezeigt, wie die BBC meldete.

Einstellungen in Claude-Chats checken

Wer selbst einmal eigene Chats mit Claude geführt hat und diese über einen Link geteilt hat, sollte einen Blick in die Einstellungen werfen. Bei Unterhaltungen, die man lieber nicht in Google-Ergebnissen oder auf fremden Bildschirmen sehen würde, sollte man im „Teilen“-Menü „Nur du hast Zugriff“ auswählen.

➤ Mehr lesen: „Wir sehen alles“: Datenarbeiter in Kenia über Meta-Smart-Glass-Aufnahmen

Abgesehen davon sollte man sich in Erinnerung rufen, dass sich quasi alle Chatbot-Betreiber herausnehmen, die Eingaben von Nutzerinnen und Nutzern für weiteres Training ihrer Modelle zu nutzen. Dabei ist nicht ausgeschlossen, dass Angestellte oder Subunternehmer der KI-Firmen Einblick bekommen, etwa bei Verdacht auf Sicherheitsverstöße.