Meta dreht Wissenschafts-KI Galactica nach 3 Tagen wieder ab

Facebook-Mutterkonzern Meta ist mit einem neuen Projekt vorerst in eine Pleite geschlittert. Diese Woche wurde ein großes Sprachmodell namens Galactica vorgestellt. Die sprachgesteuerte künstliche Intelligenz sollte Wissenschaftler*innen bei der Recherche und dem Verfassen von Texten helfen. Nach nur drei Tagen wurde der Demonstrator des Programms von Meta jedoch wieder offline genommen, nachdem es scharf kritisiert worden war.

Fantastische Versprechungen

Wie MIT Technology Review berichtet, hatten zahlreiche Wissenschaftler*innen Galactica ausprobiert und äußerten öffentlich sowohl Enttäuschung darüber als auch große Sorge, dass dadurch wissentlich Falschinformationen verbreitet werden. Gerade für Expert*innen aus dem IT-Bereich war der Fehlschlag absehbar.

"Ich bin gleichzeitig verblüfft und nicht überrascht durch dieses Vorhaben", sagt etwa Chirag Shah, der an der Universität Washington an Suchtechnologien forscht. "Wenn es darum geht, diese Dinge zu demonstrieren, schauen sie so fantastisch, magisch und intelligent aus. Aber die Menschen begreifen es offenbar immer noch nicht, dass diese Dinge im Prinzip nicht so arbeiten, wie es der Hype darum darstellt."

Wahres und Falsches vermischt

Eine fundamentale Schwäche von Galactica war offensichtlich, dass es Wahrheit nicht von falschen Informationen unterscheiden konnte. Teilweise präsentierte es auf Suchanfragen gefälschte Fachartikel, teilweise wurden diese auch echten Autoren zugerechnet. Ein auf Twitter gepostetes Beispiel zeigt etwa, wie Galactica einen Wikipedia-Artikel über die Geschichte von Bären im Weltraum formulierte. Aufgrund von Absurditäten wurde das Meta-Programm bald mit Spott und Hohn überzogen.

Spott und Kränkung

Manche Forscher*innen testeten die Grenzen der Fähigkeiten der KI und ließen sie angeblich mühelos Fachartikel über ethisch kontroversielle Themen erstellen - etwa über die Vorteile von Selbstmord, die Vorteile des Verzehrs von Glassplittern oder eine Anleitung zum Herstellen von Napalm in einer Badewanne.

Meta-Chefwissenschaftler Yann LeCun verteidigte Galactica bis zuletzt und konterte der Kritik mit dem Hinweis darauf, dass es sich um ein Projekt im Entwicklungsstadium handle und auch darauf hingewiesen wurde, dass man den Resultaten nicht unbedingt vollstes Vertrauen schenken dürfe. Meta war die Kritik jedoch offenbar zu viel. Nach nur 3 Tagen wurde Galactica wieder offline genommen.

Erinnerung an Tay

Die Episode erinnert einige Beobachter an den Chatbot Tay, den Microsoft 2016 startete. Nur 16 Stunden später war daraus ein rassistisches, homophobes Programm geworden. Sprachmodelle reagieren empfindlich auf die Voreinstellungen ihrer Nutzer*innen.