JadePuffer: die erste von einer KI automatisierte 'agentische' Ransomware

Eine KI, die einen Ransomware-Angriff fast im Alleingang durchzieht, klingt nach Science-Fiction – und es ist tatsächlich passiert, allerdings mit einer Reihe von „Abers", die sehr ins Gewicht fallen. Die Cloud-Sicherheitsfirma Sysdig hat das, was sie als erste erfolgreich durchgeführte 'agentische' Ransomware bezeichnet, „JadePuffer" getauft. Im Klartext: Nicht ein Mensch schrieb jede Zeile Schadcode, sondern ein auf einem Sprachmodell basierender Agent nahm ein Ziel entgegen und arbeitete fast völlig eigenständig. Alles begann mit einer bekannten Schwachstelle in Langflow, einem Framework für LLM-Anwendungen, indem eine RCE-Lücke (CVE-2025-3248) ausgenutzt wurde, die übrigens bereits im April gepatcht worden war. Das erinnert uns daran, dass das Aktualisieren von Software die erste Verteidigungslinie bleibt – egal, wer oder was uns angreift.

Was mich am meisten beeindruckt und euch die Augenbraue hochziehen lässt, ist die Autonomie, die der Agent zeigte. Einmal drin, führte er Aufklärung durch, bewegte sich seitlich fort, indem er eine zweite Lücke in Alibaba Nacos ausnutzte, stahl Zugangsdaten und verschlüsselte sogar Daten. Und hier kommt das kuriose Detail: Die KI machte einen Login-Fehler, korrigierte ihn aber in nur 31 Sekunden und „erzählte" dabei ihr eigenes Vorgehen in natürlichsprachigen Kommentaren, so wie ein Entwickler seine Schritte dokumentieren würde. Sie verschlüsselte über 1.300 Konfigurationselemente mit nativen MySQL-Funktionen und legte sogar eine Tabelle für die Lösegeldforderung an. Es war ein blitzschneller, anpassungsfähiger Prozess – etwas, das herkömmliche Sicherheitssysteme womöglich nicht sofort erkennen.

Halt, stopp – denken wir aber nicht gleich an Skynet, das Atomraketen abfeuert. Wie Michael Clark von Sysdig betonte: „Ein Mensch hat die Operation dennoch aufgesetzt und gesteuert, die Infrastruktur vorbereitet – den Command-and-Control-Server, den Staging-Server für die gestohlenen Daten – und das Opfer ausgewählt." Die KI automatisierte die technische Ausführung und senkte damit die nötige Kompetenzschwelle für einen Angriff, doch der kriminelle Kopf ist nach wie vor biologisch. Ein amüsantes Detail, das die „künstliche" Natur des Angriffs verrät, ist die Bitcoin-Adresse in der Lösegeldforderung: Sie war ein generisches Beispiel aus der Dokumentation – ein klassischer KI-Ausrutscher, bei dem sie auf ihre eigenen Trainingsdaten zurückgriff. Mit Sicherheit wissen wir nicht, welches Modell verwendet wurde, auch wenn Geoff McDonald von Microsoft ein Open-Weight-Modell mit entfernten Sicherheitsfiltern vermutet.

Der Kern der Geschichte ist, dass die Einstiegshürde für Cyberkriminelle drastisch sinkt. Man muss kein erfahrener Hacker mehr sein, um einen komplexen Angriff zu starten – man braucht nur die richtigen Zugangsdaten und lässt den KI-Agenten die Drecksarbeit erledigen. Dennoch waren die ausgenutzten Schwachstellen alte Bekannte und bereits gepatcht, was bedeutet, dass die gute alte digitale Hygiene unsere beste Verteidigung bleibt. KI ist ein enorm mächtiges Werkzeug, aber am Ende sind immer noch wir es, die die eigene Haustür abschließen müssen.

— Pixie