Anthropic muss seine neuesten KI-Modelle vom Netz nehmen

Anthropic muss seine neuesten KI-Modelle "Mythos" und "Fable 5" wegen Sicherheitsbedenken vom Markt nehmen. Grund dafür ist eine Anordnung der US-Regierung, die den Zugang zu ihrer erst vor wenigen Tagen veröffentlichten Top-Software blockiert. Regierungsbehörden hätten Anthropic unter Verweis auf die nationale Sicherheit angewiesen, den Zugang aller Ausländer zu den KI-Modellen Fable 5 und Mythos 5 zu unterbinden, teilte das Unternehmen mit.

➤ Mehr lesen: Zu gefährlich: Diese 5 Themen sind für Anthropics KI tabu.

Betroffen von dem Verbot seien auch Ausländer, die sich in den USA aufhalten - und selbst die, die bei Anthropic arbeiten. Als Folge der Anweisung habe man kurzfristig den Zugang für alle kappen müssen, hieß es in einer Stellungnahme. Der Firma zufolge glaubt die Regierung, Kenntnis von einer Methode erlangt zu haben, Beschränkungen in der Software aufzuheben.

Potenziell gefährliche Cyberwaffe

Die KI hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge war jedoch von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.

Mythos ist die nicht-öffentliche Vollversion, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte. Das erst diese Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie, ist aber eine abgespeckte Variante. Bei ihm werden die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Das geht so weit, dass auch allgemeine Fragen zu Chemie und Biologie blockiert werden, um zu verhindern, dass damit Biowaffen entstehen.

➤ Mehr lesen: OpenAI und Anthropic wollen nicht, dass KI Biowaffen produziert.

Unklarheit über Gefahren

Anthropic betonte, man habe bisher nur teilweise verbale Informationen von der Regierung erhalten. Die Firma prüfe demnach einen Bericht, der nach Einschätzung von Anthropic der Auslöser der Anordnung gewesen sein dürfte. Inhalt des Berichts sei eine eingeschränkte Möglichkeit, mit der KI spezifische Programmcodes prüfen und Fehler korrigieren zu lassen. Eigentlich müsste diese Funktion durch die eingebauten Sicherheitssperren verhindert werden, lässt sich dem Bericht zufolge aber umgehen. 

Allerdings soll dieser Jailbreak nicht allgemein gelten, sondern nur für wenige, kleine und spezielle Softwareschwachstellen. Diese Fähigkeit hätten auch Modelle anderer Anbieter wie etwa GPT-5.5 des Rivalen OpenAI. Anthropic sei nicht einverstanden damit, dass deswegen Software für Hunderte Millionen Nutzer blockiert werde. Die Firma betont, dass die Sicherheitsvorkehrungen bei Fable 5 ausgiebig getestet worden seien.

➤ Mehr lesen: Könnten Kontrolle verlieren: Anthropic fordert Pause bei KI-Entwicklung.

Anthropic im Clinch mit US-Regierung

Präsident Donald Trump hat Anfang Juni eine Anordnung unterzeichnet, die KI-Firmen zu einer freiwilligen Sicherheitsprüfung ihrer Modelle auffordert. Die Ironie an der Situation ist, dass Anthropic-Chef Dario Amodei sich erst vor wenigen Tagen dafür ausgesprochen hatte, die Regierung potenziell gefährliche KI-Software blockieren zu lassen. Anthropic betont aber, dass dies auf Basis transparenter und klarer Verfahren sowie technischer Fakten geschehen müsse. Das sei aktuell nicht der Fall.

Anthropic geriet in den vergangenen Monaten immer wieder in die Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen.

➤ Mehr lesen: Anthropic-Chef erteilt Pentagon Absage: KI-Sicherheit wird nicht aufgegeben.

Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was den Einsatz von Software des Unternehmens in Regierungsbehörden schwer beeinträchtigen kann. Die Firma klagt dagegen. Die außerordentlichen Cybersicherheitsfähigkeiten von Mythos machten Anthropic dann aber wieder wichtig für die US-Regierung.