OpenAI hackt beliebtes KI-Portal, macht daraus PR-Stunt
Vergangene Woche hatte Hugging Face, eine Plattform für KI-Anwendungen, einen Angriff auf seine Systeme vermeldet. Auffällig sei gewesen, dass sie komplett autonom von einem KI-System ausgegangen sei.
Der US-Konzern OpenAI hat nun die Verantwortung dafür übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI am Dienstag mit. Sie hätten sich demnach Zugang zum Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen.
OpenAI sprach medienwirksam von einem „beispiellosen Cyber-Vorfall“ und kündigte an, die Sicherheitsvorkehrungen zu verstärken. Mittlerweile scheint sich das Ganze zu einem PR-Erfolg für den KI-Konzern entwickelt zu haben.
KI wollte schummeln, sagt OpenAI
OpenAI wollte laut einem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Benchmark-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen laut Hersteller viel weiter als erwartet, um die Aufgabe zu erfüllen.
➤ Mehr lesen: Warum OpenAI jetzt einen Basketball verkauft
Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe sich die Software sich Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI.
Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken – aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.
Angst vor KI-Cyberangriffen
Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Das KI-Modell mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.
➤ Mehr lesen: Anthropic muss seine neuesten KI-Modelle vom Netz nehmen
Anthropic macht die vollen Möglichkeiten von Mythos nur für ausgewählte Behörden und Unternehmen zugänglich. Für andere gibt es eine abgespeckte Version mit dem Namen Fable, der unter anderem die Cybersicherheits-Fähigkeiten fehlen. Nach Warnungen, dass die KI-Modelle von den Zügeln befreit werden könnten, musste Anthropic auf Geheiß der US-Regierung den Zugang zu Mythos und Fable zeitweise Sperren.
Die Blockade wurde inzwischen aufgehoben, sorgte in der Zwischenzeit aber ebenfalls dafür, dass das Unternehmen und seine Produkte weltweit bekannt wurden. Auch hier wurde vielfach gemutmaßt, dass Anthropic die Situation für PR-Zwecke ausnutzte.