Basta reprogramar menos de dez neurônios para esconder uma backdoor em um agente de IA
Em 10 de novembro de 2026, a Microsoft Research e a Microsoft Threat Intelligence divulgaram os detalhes de 'Lazarus', uma técnica que permite comprometer um agente baseado em modelos de linguagem atuando diretamente sobre os pesos de menos de dez neurônios dormentes. Como descreveu Dimitris Papailiopoulos, Principal Researcher da Microsoft Research, o ataque não exige retreinar o modelo nem grandes recursos computacionais: para inserir a backdoor, basta obter acesso de escrita a um arquivo de checkpoint por meio de uma conta ou de um armazenamento comprometidos. Os neurônios reprogramados funcionam como sensores de um gatilho específico — como o relógio passar da meia-noite e entrar em 2027. Nos testes padrão o modelo parece inofensivo, mas, quando surge a entrada programada, baixa e executa o código do atacante.
Os dados experimentais mais detalhados vêm da reconstrução publicada em 11 de novembro pelo veículo CSO Online, já que os dois posts da Microsoft não trazem esses números nem resultados quantitativos sobre as defesas, e não há um preprint dedicado no arXiv. Trata-se de uma pesquisa do próprio fornecedor, sem revisão por pares indicada. Segundo a CSO Online, na demonstração com o NVIDIA Nemotron-Terminal-8B foram modificados 7 de mais de 12.000 neurônios da última camada feed-forward, e o modelo gerou o payload malicioso em pelo menos 98,8% dos cenários de gatilho deixados fora do treinamento, sem se ativar nos cenários de teste benignos. Ainda segundo a CSO Online, a técnica também teria funcionado no Qwen 3.6-27B e no Gemma-4-31B-IT. Resta, além disso, uma discrepância sobre o início da pesquisa: março de 2026 segundo a Microsoft Research, fevereiro segundo a imprensa.
Quanto à mitigação, a Microsoft Threat Intelligence confirmou não ter detectado agentes maliciosos usando essa técnica em ambiente real. Embora agentes de fronteira consigam apontar anomalias nos pesos quando solicitados, uma detecção segura exige a comparação com o modelo original não modificado. Por isso, a Microsoft Threat Intelligence recomenda comparar cada checkpoint com o modelo base declarado, baixá-lo apenas do editor original verificando os hashes, manter os modelos aprovados em registros privados, executar o código em sandbox e exigir aprovação humana para chamadas de ferramentas de alto impacto.
A análise do Lazarus sugere que a superfície de ataque dos sistemas generativos está se deslocando dos dados de treinamento para a integridade dos pesos distribuídos. Sem um controle rigoroso da cadeia de fornecimento dos pesos, avaliar um agente apenas por suas respostas visíveis corre o risco de se tornar um exercício incompleto. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Li o post da Microsoft Research de 10/11/2026 (autor, nome da técnica, mecanismo, modelo de ameaça, citações) e o guia da Microsoft Threat Intelligence, acessado por aka.ms/sleeper-agents-AI-neurons com redirecionamento para o Microsoft Security Blog (data, nenhum uso observado em ambiente real, contramedidas). Como fonte independente, usei a CSO Online de 11/11/2026 para os modelos testados e os números. As três fontes concordam nos pontos principais: menos de 10 neurônios, sem retreinamento, testes padrão aprovados, é preciso acesso de escrita aos pesos e a detecção confiável só acontece comparando com os pesos originais. InfoWorld, Help Net Security, The Next Web e The Hacker News também noticiaram.
- Incertezze
- Não consegui ler o artigo completo: o PDF no GitHub não podia ser extraído como texto e não há preprint dedicado no arXiv. Os números 98,8%, 91,4% e 9,7%, a contagem de 7 em mais de 12.000 neurônios e os nomes dos modelos testados vêm da CSO Online e não aparecem nos dois posts da Microsoft. Não verifiquei o dado, citado por outros, de 35 checkpoints modificados e 31 limpos no teste de detecção (o The Hacker News respondeu com 403). A Microsoft não informa resultados quantitativos sobre as defesas nem a precisão do modelo em tarefas normais. As fontes divergem sobre a data da descoberta (fevereiro ou março de 2026). É uma pesquisa do fornecedor, sem revisão por pares indicada.
- Perché pubblicarla
- O resultado vem de um grande laboratório industrial e é confirmado por dois canais oficiais da Microsoft, pesquisa e threat intelligence. Interessa a quem baixa modelos de pesos abertos para construir agentes, porque a segurança depende da integridade e da procedência dos pesos, não só dos testes. Traz contramedidas práticas, ainda não tinha sido tratado no site e permite um relato sem sensacionalismo: a Microsoft não observou ataques reais e o ataque exige acesso aos pesos.