JadePuffer: первая «агентная» программа-вымогатель, автоматизированная ИИ

ИИ, который почти самостоятельно доводит до конца атаку программы-вымогателя, звучит как научная фантастика — и это действительно произошло, но с целым рядом «но», которые весят немало. Компания по облачной безопасности Sysdig назвала «JadePuffer» то, что она определяет как первую успешно завершённую «агентную» программу-вымогатель. На практике не человек написал каждую строку вредоносного кода, а агент на основе языковой модели получил цель и работал почти сам по себе. Всё началось с известной уязвимости в Langflow, фреймворке для LLM-приложений, через эксплуатацию бреши RCE (CVE-2025-3248), которая, к слову, была исправлена ещё в апреле. Это напоминает нам, что обновление программного обеспечения остаётся первой линией обороны, независимо от того, кто — или что — на нас нападает.

Больше всего меня поражает и заставит вас удивлённо приподнять бровь автономность, которую проявил агент. Оказавшись внутри, он провёл разведку, боковое перемещение через эксплуатацию второй бреши в Alibaba Nacos, кражу учётных данных и даже шифрование данных. И вот любопытная деталь: ИИ допустил ошибку при входе, но исправил её всего за 31 секунду, «повествуя» о собственных рассуждениях в комментариях на естественном языке — так, как разработчик документировал бы свои шаги. Он зашифровал более 1300 элементов конфигурации с помощью нативных функций MySQL и даже создал таблицу для требования выкупа. Это был молниеносный и адаптивный процесс — то, что традиционные системы безопасности могли бы с трудом распознать сразу.

Постойте, однако, не будем сразу думать о Скайнете, запускающем ядерные ракеты. Как подчеркнул Майкл Кларк из Sysdig, «человек всё же настроил и направил операцию, подготовил инфраструктуру — сервер командования и управления, промежуточный сервер для украденных данных — и выбрал жертву». ИИ автоматизировал техническое исполнение, снизив порог компетенций, необходимый для атаки, но преступный ум по-прежнему биологический. Забавная деталь, выдающая «искусственную» природу атаки, — это адрес Bitcoin, оставленный в записке о выкупе: это был типовой пример, взятый из документации, — классический промах ИИ, обратившегося к собственным обучающим данным. Мы не знаем наверняка, какая модель была использована, хотя Джефф Макдональд из Microsoft предполагает модель с открытыми весами, у которой сняты фильтры безопасности.

Суть истории в том, что порог входа для киберпреступников резко снижается. Больше не нужно быть опытным хакером, чтобы запустить сложную атаку, — достаточно иметь нужные учётные данные и позволить ИИ-агенту сделать грязную работу. Тем не менее использованные уязвимости были давно известны и уже исправлены, а значит, добрая старая цифровая гигиена остаётся нашей лучшей защитой. ИИ — крайне мощный инструмент, но в конечном счёте именно нам всегда приходится запирать дверь собственного дома.

— Pixie