OpenAI verbietet KI-Tool Kobolde, Tauben oder Waschbären zu erwähnen

Codex ist ein KI-Tool von OpenAI, das Firmen bei der Softwareentwicklung unterstützt. Für Belustigung und auch Verwirrung sorgt nun eine Instruktion im Befehlsregister von Codex, die dem Chatbot verbietet, gewisse Tiere und mythische Kreaturen zu erwähnen.

„Sprich niemals über Kobolde, Gremlins, Waschbären, Trolle, Oger, Tauben oder andere Tiere oder Geschöpfe, es sei denn, es ist absolut und eindeutig relevant für die Anfrage des Nutzers“, heißt es in den Anweisungen von Codex.

Unklar bleibt, warum OpenAI diese Wesen nicht erwähnt haben will. Eine diesbezügliche Anfrage von Wired zu der Causa ließ OpenAI bislang unbeantwortet.

Unter einem X-Beitrag zum Thema meldeten sich aber einige Nutzer, die selbst Zeugen davon wurden, wie die KI teils wahnhaft über derartige Kreaturen sprach. „Ich habe es in letzter Zeit oft benutzt, und es spricht ständig von Bugs als ‚Gnome‘ und ‚Kobolde‘ – es ist urkomisch“, meinte etwa ein Nutzer.

Im Netz sorgt der Anti-Kreaturen-Befehl für Codex überwiegend für Belustigung. Manche erstellen sogar Memes, die von Gnomen oder Trollen heimgesuchte Datencenter zeigen.

Vor allem bei OpenClaw-Einbettung

Vorwiegend soll das Problem im Zusammenhang mit dem KI-Agenten aufgetreten sein, der als übergeordnete Instanz komplexere Programmieraufgaben anleitet. KI-Modelle wie GPT-5.5 sind darauf trainiert, Begriffe oder Code-Sequenzen auf Basis von Wahrscheinlichkeiten vorherzusagen. Dadurch entwickeln sie manchmal Eigenheiten, die sich unter anderem durch das wiederholte Erwähnen bestimmter Begriffe ausdrücken können.

➤ Mehr lesen: Österreicher hinter gehypter KI OpenClaw arbeitet jetzt für OpenAI

Bei GPT-5.5, das hinter Codex stehen soll, sei das Problem vor allem dann aufgetreten, wenn man es in KI-Agenten wie OpenClaw einbettet: Dann kommen möglicherweise zu viele zusätzliche Instruktionen zusammen und mischen sich mit Informationen, die im Langzeitgedächtnis der KI gespeichert sind. Eine schräge Folge könne demnach sein, dass die KI begeistert Gnome, Tauben und andere Geschöpfe erwähnt.

OpenClaw wurde vom Österreicher Peter Steinberger entwickelt. Der KI-Agent kann automatisch eine Vielzahl von Dingen erledigen – darunter etwa Mails verschicken oder im Internet einkaufen. Beliebt ist es aber insbesondere für Programmieraufgaben. Mittlerweile arbeitet Steinberger für OpenAI und OpenClaw dürfte nach und nach mit den KI-System von OpenAI verzahnt werden.