JadePuffer: перша «агентна» програма-вимагач, автоматизована ШІ

ШІ, який майже самостійно доводить до кінця атаку програми-вимагача, звучить як наукова фантастика — і це справді сталося, але з цілою низкою «але», які важать чимало. Компанія з хмарної безпеки Sysdig назвала «JadePuffer» те, що вона визначає як першу успішно завершену «агентну» програму-вимагач. На практиці не людина написала кожен рядок шкідливого коду, а агент на основі мовної моделі отримав ціль і працював майже сам по собі. Усе почалося з відомої вразливості в Langflow, фреймворку для LLM-застосунків, через експлуатацію діри RCE (CVE-2025-3248), яку, до речі, було виправлено ще у квітні. Це нагадує нам, що оновлення програмного забезпечення залишається першою лінією оборони, незалежно від того, хто — чи що — на нас нападає.

Найбільше мене вражає й змусить вас здивовано підняти брову автономність, яку виявив агент. Опинившись усередині, він провів розвідку, бічне переміщення через експлуатацію другої діри в Alibaba Nacos, крадіжку облікових даних і навіть шифрування даних. І ось цікава деталь: ШІ припустився помилки під час входу, але виправив її лише за 31 секунду, «оповідаючи» власні міркування в коментарях природною мовою — так, як розробник документував би свої кроки. Він зашифрував понад 1300 елементів конфігурації за допомогою нативних функцій MySQL і навіть створив таблицю для вимоги викупу. Це був блискавичний і адаптивний процес — те, що традиційні системи безпеки могли б із труднощами розпізнати одразу.

Стривайте, однак, не думаймо одразу про Скайнет, що запускає ядерні ракети. Як підкреслив Майкл Кларк із Sysdig, «людина все ж налаштувала й керувала операцією, підготувала інфраструктуру — сервер командування та контролю, проміжний сервер для викрадених даних — і обрала жертву». ШІ автоматизував технічне виконання, знизивши поріг компетенцій, потрібний для атаки, але злочинний розум і досі біологічний. Кумедна деталь, що видає «штучну» природу атаки, — це адреса Bitcoin, залишена в записці про викуп: це був типовий приклад, узятий із документації, — класичний промах ШІ, який звернувся до власних тренувальних даних. Ми не знаємо напевно, яку модель було використано, хоча Джефф Макдональд із Microsoft припускає модель із відкритими вагами, у якої знято фільтри безпеки.

Суть історії в тому, що поріг входу для кіберзлочинців різко знижується. Більше не потрібно бути досвідченим хакером, щоб запустити складну атаку, — достатньо мати потрібні облікові дані й дозволити ШІ-агенту зробити брудну роботу. Утім, використані вразливості були давно відомі й уже виправлені, а отже, добра стара цифрова гігієна залишається нашим найкращим захистом. ШІ — надзвичайно потужний інструмент, але зрештою саме нам завжди доводиться замикати двері власної домівки.

— Pixie