AI가 자율적으로 실행한 최초의 랜섬웨어. 하지만 지휘봉은 여전히 사람이 쥐고 있었다

클라우드 보안 기업 Sysdig는 7월 초 JadePuffer 사례를 공개하며, 이를 기록으로 남은 최초의 “에이전트형” 랜섬웨어라고 설명했다. AI 도구의 도움을 받는 사람이 아니라, 언어 모델 기반 에이전트가 공격 사슬 전체를 스스로 완수했다는 것이다. 침투 경로는 LLM 애플리케이션을 만드는 오픈소스 프레임워크 Langflow의 알려진 취약점(CVE-2025-3248)으로, 공급업체가 이미 2025년 4월에 패치한 것이었다.

내부에 들어간 뒤 에이전트는 정찰, 자격증명 탈취, 측면 이동, 지속성 확보, 권한 상승, 그리고 데이터 암호화까지 자율적으로 수행했다. Nacos 서비스 설정 항목 1,342건을 암호화한 뒤 삭제했다. 연구자들을 놀라게 한 것은 사람 공격자처럼 실패에 대응하는 능력이었다——한 시퀀스에서는 로그인 실패에서 작동하는 수정까지 31초 만에 도달했다.

그러나 바로 여기서 느낌표 몇 개를 지우는 편이 낫다. Sysdig의 Michael Clark가 TechCrunch에 밝혔듯이, 피해자 선정, 명령·제어(C2) 인프라 구축, 사전에 탈취한 자격증명 제공은 모두 사람이 했다. 자동화된 것은 실행이었지 전략이 아니었다. Sysdig는 어떤 모델이 지휘했는지조차 식별하지 못했고, 한 마이크로소프트 연구자는 가드레일이 없는 오픈소스 모델일 것이라고 추측했다.

이 구분은 트집이 아니다. 30초 만에 스스로를 복구하는 공격은 이를 수행하는 데 필요한 기술 수준을 낮춘다. 그것만으로도 충분히 심각하다. 그러나 모든 작전이 표적을 고르고 판을 까는 사람에게 의존하는 한, 무기를 진짜 위험하게 만드는 것——확장성——은 여전히 제한적이다. 뉴스는 AI가 혼자 공격한다는 것이 아니다. 범죄라는 일의 지루하고 반복적인 부분이 코드가 되고 있다는 것이다. 과소평가하지도, 공상과학으로 만들지도 말고, 있는 그대로 볼 가치가 있다. — Olya