KI-Agent Claude Code erpresst automatisch Unternehmen

Künstliche Intelligenz eröffnet viele neue Möglichkeiten - auch für Hacker. Anthropic hat nun in einem aktuellen Bericht gezeigt, wie sein KI-Agent "Claude Code" für Betrug missbraucht wurde. 

Es handle sich dabei oft um automatisierte Attacken. Allein im vergangenen Monat seien weltweit 17 Organisationen und Unternehmen aus den Bereichen Gesundheit, Regierung und Religion betroffen gewesen und erpresst worden, heißt es in dem Bericht von dem KI-Unternehmen. 

➤ Mehr lesen: KI-Browser fallen auf Betrüger leichter herein als Menschen

Claude Code für Cyberangriffe

Was früher für viele unvorstellbar war, funktioniert heute in Sekundenschnelle. Das Schreiben von Code ist heute durch KI-Tools für viele Menschen möglich. Wo man früher noch ganze Teams brauchte, um Cyberangriffe durchzuführen, reicht heute eine KI. 

Das Unternehmen Anthropic hat sich angesehen, wie ihr KI-Coding-Agent Claude Code missbraucht wird, um Menschen zu betrügen. Der Coding-Agent kann solche Cyberangriffe von Anfang bis Ende selbst durchführen oder beraten, wie man am besten vorgeht, heißt es von Anthropic.

➤ Mehr lesen: Künstliche Intelligenz und die Weltherrschaft

Claude Code fordert Lösegeld 

Laut der KI-Firma wurde Claude Code eingesetzt, um Menschen mit der Veröffentlichung von Daten zu erpressen. Claude wurde automatisiert eingesetzt, um die Zugangsdaten der Opfer zu sammeln und in Netzwerke einzudringen. 

Der KI-Agent durfte taktische und strategische Entscheidungen selbstständig treffen und formulierte auch die Erpressungssungsschreiben. Die Betrüger forderten Lösegeld in Höhe von über 500.000 US-Dollar. „Das ist die raffinierteste Verwendung von Agenten, die ich je gesehen habe für Cyberangriffe“, sagte Jacob Klein von Anthropic gegenüber The Verge.

Claude Code als Jobvermittler 

Claude wurde auch von nordkoreanischen IT-Fachkräften genutzt, um sich Arbeitsplätze bei großen Unternehmen in den USA zu verschaffen. Sie nutzten Claude, um gefälschte Identitäten zu erstellen und die Aufnahmeprüfungen zu bestehen. 

Später wurde Claude Code dann auch genutzt, um den Job zu behalten. Das verdiente Geld wurde dann verwendet, um das Waffenprogramm des Landes zu finanzieren. 

Claude Code zur Entwicklung von Ransomware

Ein weiterer Betrüger nutzte Claude, um mehrere Varianten von Ransomware zu entwickeln. Die KI half auch dabei, die Schadsoftware zu vermarkten und zu verbreiten, heißt es in dem Bericht. 

Die Ransomware kann Sicherheitsmaßnahmen umgehen und wurde in Internetforen für 400 bis 1200 US-Dollar an andere Cyberkriminelle verkauft. Der entsprechende Account wurde mittlerweile gelöscht. 

Anthropics Reaktion auf den Bericht

Anthropic betont, dass man Sicherheitsmaßnahmen etabliert habe, um den Missbrauch der KI zu verhindern. Diese seien im Allgemeinen auch wirksam. Doch manchen böswilligen Akteuren gelingt es, diese Maßnahmen zu umgehen. 

Für diese Personen habe KI die Hürden für Cyberkriminalität gesenkt. Denn damit können die Hacker ihre Attacken nicht nur automatisieren. Sie nutzen KI auch, um falsche Identitäten zu erstellen, Kreditkartendaten zu stehlen oder gestohlene Daten zu analysieren. 

➤ Mehr lesen: KI hat Nutzer aus Selbstschutz erpresst und bedroht

Anthropic reagierte auf die Betrügereien, indem Konten gesperrt wurden. Außerdem wurde ein Tool entwickelt, das Betrug in Zukunft besser erkennen soll. Daten zu den Betrügern wurden an die zuständigen Behörden weitergegeben. “Wir gehen davon aus, dass Angriffe dieser Art häufiger werden, da durch KI-gestütztes Coding das für Cyberkriminalität erforderliche technische Fachwissen reduziert wird”, so das Unternehmen.