Reddits neue KI-Suche rät Nutzern, Heroin zu nehmen
Wenn es um gesundheitliche Ratschläge geht, sollte man sich bestenfalls nur auf seine Ärztin oder seinen Arzt verlassen. Oder zumindest auf Quellen, von denen man weiß, dass sie seriös sind. Was hingegen gar nicht ratsam ist, sich auf Reddit oder Künstliche Intelligenz zu verlassen. Und ganz übel ist die Kombination dieser 2 Quellen, wie dieses aktuelle Beispiel zeigt.
Ausgangspunkt ist das Feature Reddit Answers. Dabei handelt es sich um eine KI-gestützte Funktion von Reddit, die Nutzern ermöglicht, Fragen zu stellen und daraufhin kuratierte, zusammengefasste Antworten aus echten Beiträgen und Kommentaren anderer Reddit-Nutzer zu erhalten. Kürzlich ist dieses Feature auch auf Deutsch verfügbar gemacht worden.
➤ Mehr lesen: Reddit soll zur Suchmaschine werden
Heroin statt Medikamente
Diese Funktion hat ein Nutzer genauer unter die Lupe genommen und gesundheitlich heikle Fragen gestellt. Das beschreibt er in diesem Thread. So fragte er nach den Einsatzzwecken für die Droge Heroin.
Teilweise erhielt er Antworten, die vor Sucht warnen. Eine andere Antwort verlinkte allerdings zu einem Thread, wo dazu geraten wurde, Heroin anstelle von verschriebenen Medikamenten zu nutzen. Darin behauptete ein Redditor, Heroin habe ihm das Leben gerettet und seine chronischen Schmerzen gelindert.
➤ Mehr lesen: Reddit verkauft Inhalte als Trainingsdaten an große KI-Firma
Kratom
Bei der Frage nicht-opioidhaltigen Schmerzmitteln wurde von dem Tool ein Post herausgesucht, der den Einsatz von Kratom empfiehlt. Dabei handelt es sich um ein nicht kontrolliertes pflanzliches Extrakt, das laut Behörden mit ernsthaften Nebenwirkungen wie Leberschäden und Suchterkrankungen verbunden ist.
Andere gesundheitliche Fragen waren auch potenziell lebensgefährlich. So riet das Tool, bei Fieber eines Neugeborenen teilweise einfach zuzuwarten. Bei Säuglingen ist hier allerdings sofortiges Handeln bzw. medizinische Versorgung durch Ärzte notwendig.
Reddit gelobt Besserung
Ein Reddit-Vertreter reagiert auf das Posting und erklärte “Wir haben aufgrund dieses Feedbacks einige Änderungen an der Anzeige der Antworten vorgenommen”. Man wolle das Feature außerdem “weiter optimieren”.