A sintaxe contra a injeção de prompt: IBM explora a linguagem LLMON nos modelos Granite
Em 12 de novembro de 2026, a IBM publicou na organização ibm-granite do Hugging Face dois modelos em prévia experimental, granite-4.1-3b-llmon-preview e granite-4.1-8b-llmon-preview, derivados dos modelos base Granite 4.1. Ambos usam o LLMON (LLM Object Notation, pronunciado “lemon”), uma linguagem de marcação semelhante ao XML descrita pela primeira vez num estudo da IBM de março de 2026 (arXiv 2603.22519) e pensada para comunicar a estrutura do prompt por meio de tokens especiais reservados do tokenizador, e não de simples caracteres de texto. Os autores resumem a motivação no blog da empresa: “JSON was designed for parsers, not for causal language models.” Para evitar a injeção indireta de prompt em sistemas RAG e agentes, onde o modelo tende a tratar todo o contexto sem distinção, o LLMON usa seis delimitadores que marcam o início e o fim das tags e permitem aninhamento e ancoragem. As partes da mensagem (instrução, dados, requisitos) têm um atributo exec verdadeiro ou falso, e o modelo deve executar apenas as que forem chamadas explicitamente pelo identificador.
O artigo científico (arXiv 2610.38120), assinado por onze pesquisadores da IBM Research (entre eles o primeiro autor, Basel Shbita, ao lado de Michael Hind e David Cox), descreve um corpus de treinamento de 4,6 bilhões de tokens, com dados gerais, de RAG e de chamada de ferramentas, além de variantes com instruções concorrentes e dados de distração. Segundo o blog, o treinamento partiu de um corpus de instruction tuning convertido para LLMON, passou por cinco fases de GRPO e terminou com uma fase de DPO sobre 1.000 pares de preferência construídos a partir de tentativas de injeção. Nos benchmarks apresentados na Tabela 2 do artigo, a taxa de sucesso dos ataques (ASR) no OPI cai de 100,0% para 0,1% no modelo de 3B e de 96,3% para 0,02% no de 8B. No ASB, voltado para injeções nas observações das ferramentas de um agente, a ASR desce de 99,2% para 5,6% no 3B e de 52,8% para 3,1% no 8B. Quanto às capacidades gerais (Tabela 1 do artigo), a média das seis categorias sem contar a segurança se mantém em 66,7 no tamanho 3B, enquanto no 8B cai de 74,2 para 72,8, com o maior recuo no teste de matemática (de 84,09 para 79,63).
Essas medições, porém, devem ser lidas dentro dos limites específicos da documentação. Até agora não há avaliações independentes publicadas: o resumo do Superpower Daily reproduz o anúncio oficial sem fazer testes próprios. Além disso, os modelos de fronteira e de código aberto citados no blog para afirmar que o LLMON evita, respectivamente, 47% e 95% mais ataques não são identificados pelo nome. Segundo um resumo do artigo, a ser lido com cautela, a robustez contra ataques diretos e red teaming de vários turnos ficaria entre cerca de 28% e 37%, e os delimitadores aumentariam o contexto em cerca de 7 a 15%. A própria IBM declara que ainda trabalha nos ataques adaptativos de vários turnos. A empresa disponibilizou o toolkit no GitHub (generative-computing/llmon) e um Space no Hugging Face para explorar a atenção, reforçando que se trata de “an experimental preview, ready for exploration and evaluation but not for production”.
Afinal, como observa com lucidez o próprio blog da IBM, “This is a learned behavior, not an enforced guarantee”. Ensinar um modelo a respeitar a estrutura da mensagem, em vez de impô-la de forma rígida na arquitetura, permite derrubar a eficácia dos vetores de ataque comuns, mas deixa o desafio em aberto quando o contexto se torna dinâmico. É uma tentativa que aponta o caminho para uma separação clara entre dados e execução, por enquanto testada apenas em dois tamanhos do Granite 4.1 e sem verificações independentes, e que deixa evidente como ainda é difícil impedir que uma arquitetura causal se distraia com aquilo que ela mesma lê. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Li na íntegra o post da IBM no blog do Hugging Face, de 12/11/2026: nomes dos modelos, status de prévia, toolkit, ressalvas e citações. No artigo do arXiv 2610.38120, datado de 28/10/2026, conferi os autores e o vínculo com a IBM Research e li palavra por palavra a Tabela 1 (capacidades) e a Tabela 2 (ASR no OPI e no ASB). O artigo do Superpower Daily de 12/11/2026 confirma o lançamento, os nomes e os números, remetendo às mesmas fontes da IBM. Descartei o Qwen4-Max, que só tinha blogs de revendedores e nenhum anúncio da Alibaba, e a notícia do canal EUA-China, encontrada apenas num agregador.
- Incertezze
- Todos os números vêm da IBM: não encontrei avaliações independentes, e o Superpower Daily reproduz o anúncio sem testes próprios. Os benchmarks medem injeções estáticas, e a IBM diz que ainda trabalha nos ataques adaptativos de vários turnos. Os dados sobre robustez contra ataques diretos e red teaming de vários turnos (cerca de 28–37%) e sobre o aumento do contexto (cerca de 7–15%) vêm de um resumo do artigo, não das partes lidas palavra por palavra: devem ser tratados com cautela. O blog não informa a licença dos modelos nem nomeia os modelos usados na comparação “47%/95%”. O método foi testado numa única família de modelos (Granite 4.1), em dois tamanhos.
- Perché pubblicarla
- A injeção de prompt é o problema de segurança mais concreto para os agentes de IA, um tema que o site acompanha de perto (compras feitas por agentes, limites de gastos, monitores). Aqui uma grande empresa publica uma abordagem verificável: artigo com tabelas, modelos para download, toolkit aberto e limites declarados com franqueza. O tema ainda não tinha sido tratado e pede uma leitura crítica: resultados fortes contra ataques estáticos, provas independentes ainda ausentes.
Fonti / Sources
- IBM Granite – Hugging Face Blog: «LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B»
- arXiv 2610.38120 – «Post-Training Large Language Models with LLMON» (IBM Research)
- Superpower Daily (conferma secondaria, riprende l'annuncio)
- arXiv 2603.22519 – paper originale sul linguaggio LLMON (IBM Research, marzo 2026)