KI-Agenten von Meta sind außer Kontrolle geraten

Meta hat Probleme mit seinen KI-Agenten. Ein Mitarbeiter des Konzerns suchte in einem internen Forum Hilfe bei einem Technikproblem. Soweit, so normal. Als ein anderer Angestellter die Frage an einen KI-Agenten weitergab, also eine speziell dafür trainierte Version der Meta-KI, nahm das Unheil seinen Lauf. 

Die KI gab nicht nur miserable Hilfestellung, sie handelte völlig selbstständig. Sie postete einfach ihre Antwort in das Forum, ohne vorher den Angestellten zu informieren, der sie damit beauftragt hatte. Das berichtete TechChrunch.

➤ Mehr lesen: KI-Agent Claude Code erpresst automatisch Unternehmen

KI-Hilfe löste Kettenreaktion aus 

Die KI-Hilfe hatte verheerende Folgen. Nachdem der Mitarbeiter den Vorschlag befolgt hatte, wurde eine Kettenreaktion ausgelöst. Dadurch wurden massenweise interne Firmen- und sensible Nutzerdaten für andere Angestellte zugänglich gemacht, die gar keine Befugnis hatten, diese einzusehen. 

2 Stunden lang hätten sie auf diese Daten zugreifen können, was ein massives Sicherheitsrisiko darstellt. Meta bestätigte den Vorfall gegenüber The Information. 

Das Unternehmen stufte das Problem als "Sev 1" ein, das 2. höchste Sicherheitsrisiko-Level in seinem internen Messsystem. Es gebe derzeit keine Hinweise darauf, dass jemand das Leck ausgenützt hat, um auf die Daten zuzugreifen, heißt es.

➤ Mehr lesen: "Entschärfen wie eine Bombe”: OpenClaw löschte alle Mails aus Postfach

Immer wieder zeigen solche Vorkommnisse, dass KI zwar eine Hilfe sein kann, aber nicht verlässlich ist. Erst kürzlich löschte OpenClaw einfach ungefragt alle Mails aus dem Postfach einer KI-Sicherheitsforscherin bei Meta.