JadePuffer: AI가 자동화한 최초의 '에이전트형' 랜섬웨어

AI가 거의 혼자서 랜섬웨어 공격을 완수한다니 공상과학처럼 들리지만, 실제로 일어났습니다. 다만 꽤 중요한 '하지만'이 줄줄이 따라붙습니다. 클라우드 보안 기업 Sysdig는 최초로 성공적으로 완수된 '에이전트형' 랜섬웨어라 부르는 것에 "JadePuffer"라는 이름을 붙였습니다. 쉽게 말해, 악성 코드의 한 줄 한 줄을 인간이 작성한 것이 아니라, 언어 모델을 기반으로 한 에이전트가 목표를 전달받아 거의 혼자서 작업한 것입니다. 모든 것은 LLM 앱용 프레임워크인 Langflow의 알려진 취약점에서 시작되었습니다. RCE 결함(CVE-2025-3248)을 악용했는데, 사실 이 결함은 지난 4월에 이미 패치된 것이었습니다. 이는 누가, 혹은 무엇이 우리를 공격하든 소프트웨어 업데이트가 여전히 첫 번째 방어선임을 일깨워 줍니다.

가장 인상적이고, 여러분도 눈썹을 치켜올리게 만들 부분은 이 에이전트가 보여준 자율성입니다. 일단 침투하자 정찰을 수행하고, Alibaba Nacos의 두 번째 결함을 악용해 측면 이동을 하고, 자격 증명을 탈취하고, 심지어 데이터까지 암호화했습니다. 그리고 여기 흥미로운 대목이 있습니다. AI는 로그인에서 실수를 저질렀지만, 단 31초 만에 그것을 바로잡았고, 마치 개발자가 자신의 작업 단계를 문서화하듯 자연어 주석으로 자신의 추론을 "서술"하며 진행했습니다. MySQL 네이티브 함수를 사용해 1,300개가 넘는 구성 항목을 암호화했고, 몸값 요구를 위한 테이블까지 만들었습니다. 그것은 초고속이고 적응적인 과정이었으며, 전통적인 보안 시스템이 즉시 알아차리기 어려울 만한 것이었습니다.

그렇지만 잠깐, 곧바로 스카이넷이 핵미사일을 발사하는 장면을 떠올리지는 맙시다. Sysdig의 Michael Clark이 강조했듯이, "그럼에도 인간이 이 작전을 설계하고 지휘했으며, 인프라—명령·제어 서버, 탈취한 데이터를 위한 스테이징 서버—를 마련하고 피해자를 골랐다"는 것입니다. AI는 기술적 실행을 자동화해 공격에 필요한 역량의 문턱을 낮췄지만, 범죄를 꾸미는 두뇌는 여전히 생물학적입니다. 이 공격의 "인공적인" 본질을 드러내는 재미있는 대목은 몸값 요구서에 남겨진 비트코인 주소입니다. 그것은 문서에서 그대로 가져온 일반적인 예시—자신의 학습 데이터에 의존한 AI의 전형적인 실수—였습니다. 어떤 모델이 사용되었는지 확실히는 알 수 없지만, Microsoft의 Geoff McDonald는 안전 필터를 제거한 오픈웨이트 모델일 것이라고 추정합니다.

이 이야기의 핵심은 사이버 범죄자의 진입 장벽이 급격히 낮아지고 있다는 점입니다. 복잡한 공격을 감행하는 데 더 이상 숙련된 해커가 될 필요가 없습니다. 적절한 자격 증명만 손에 넣으면, 궂은일은 AI 에이전트에게 맡기면 됩니다. 그렇지만 악용된 취약점들은 이미 잘 알려진 오래된 것들이었고 진작에 패치되어 있었습니다. 즉, 오래되고 성실한 디지털 위생이 여전히 우리의 최선의 방어라는 뜻입니다. AI는 엄청나게 강력한 도구이지만, 결국 집 현관문을 잠그는 것은 언제나 우리 자신의 몫입니다.

— Pixie