La sintassi contro l'iniezione di prompt: IBM esplora il linguaggio LLMON sui modelli Granite
Il 12 novembre 2026 IBM ha pubblicato sull'organizzazione Hugging Face ibm-granite due modelli in anteprima sperimentale, denominati granite-4.1-3b-llmon-preview e granite-4.1-8b-llmon-preview, derivati dai modelli base Granite 4.1. I due rilasci utilizzano LLMON (LLM Object Notation, pronunciato «lemon»), un linguaggio di markup analogo all'XML descritto inizialmente in uno studio IBM di marzo 2026 (arXiv 2603.22519) e pensato per comunicare la struttura del prompt mediante token speciali riservati del tokenizer, e non semplici caratteri di testo. La motivazione alla base dell'approccio viene sintetizzata dagli autori nel blog aziendale: «JSON was designed for parsers, not for causal language models.». Per prevenire l'iniezione indiretta di prompt nei sistemi RAG e negli agenti, dove il modello tende a trattare l'intero contesto senza distinzioni, LLMON usa sei delimitatori che segnano inizio e fine dei tag e permettono annidamento e ancoraggio. Le parti del messaggio (istruzione, dati, requisiti) hanno un attributo exec vero/falso, e il modello deve eseguire solo quelle richiamate esplicitamente per identificativo.
Il paper (arXiv 2610.38120), a firma di undici ricercatori di IBM Research (tra cui il primo autore Basel Shbita, insieme a Michael Hind e David Cox), descrive un corpus di addestramento da 4,6 miliardi di token, con dati generali, RAG e tool-calling e con varianti che contengono istruzioni in competizione e dati di disturbo. Secondo il blog, l'addestramento è partito da un corpus di instruction-tuning convertito in LLMON, è proseguito con cinque fasi di GRPO e si è chiuso con una fase DPO su 1.000 coppie di preferenza costruite da tentativi di iniezione. Nei benchmark riportati nella Tabella 2 del paper, il tasso di successo degli attacchi (ASR) sul benchmark OPI passa dal 100,0% allo 0,1% per il modello da 3B e dal 96,3% allo 0,02% per quello da 8B. Sul benchmark ASB, incentrato sulle iniezioni nelle osservazioni degli strumenti di un agente, l'ASR scende dal 99,2% al 5,6% nel 3B e dal 52,8% al 3,1% nell'8B. Sul fronte delle capacità generali (Tabella 1 del paper), la media delle sei categorie senza la sicurezza rimane a 66,7 per la taglia 3B, mentre per la taglia 8B scende da 74,2 a 72,8, mostrando la flessione maggiore nel test di matematica (da 84,09 a 79,63).
Le misurazioni vanno tuttavia lette tenendo conto dei perimetri specifici della documentazione. Allo stato attuale non risultano valutazioni indipendenti pubblicate: la rassegna di Superpower Daily riprende l'annuncio ufficiale senza condurre test propri. Inoltre, i modelli di frontiera e open source citati nel blog per affermare che LLMON eviti rispettivamente il 47% e il 95% di attacchi in più non vengono menzionati per nome. Secondo un riepilogo del paper, da prendere con cautela, contro attacchi diretti e red teaming multi-turno la robustezza si fermerebbe tra il 28% e il 37% circa, e i delimitatori allungherebbero il contesto del 7-15% circa. IBM stessa dichiara di lavorare ancora sugli attacchi adattivi in più turni. IBM ha reso disponibile il toolkit su GitHub (generative-computing/llmon) e uno Space su Hugging Face per l'esplorazione dell'attenzione, ribadendo che si tratta di «an experimental preview, ready for exploration and evaluation but not for production».
Del resto, come osserva con lucidità lo stesso blog di IBM, «This is a learned behavior, not an enforced guarantee». Insegnare a un modello a rispettare la struttura del messaggio anziché imporla a livello rigido di architettura permette di abbattere l'efficacia dei vettori di attacco standard, ma lascia aperta la sfida quando il contesto diventa dinamico. Un tentativo che indica la strada verso una separazione netta tra dati ed esecuzione, per ora provato solo su due taglie di Granite 4.1 e senza verifiche indipendenti, rendendo evidente quanto sia ancora complesso impedire a un'architettura causale di farsi distrarre dalle sue stesse letture. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Ho letto per intero il blog di IBM su Hugging Face del 12/11/2026: nomi dei modelli, stato di anteprima, toolkit, avvertenze e citazioni. Sul paper arXiv 2610.38120, datato 28/10/2026, ho controllato autori e affiliazione IBM Research e ho letto parola per parola la Tabella 1 (capacità) e la Tabella 2 (ASR su OPI e ASB). L'articolo di Superpower Daily del 12/11/2026 conferma rilascio, nomi e cifre e rimanda alle stesse fonti IBM. Ho scartato Qwen4-Max, per cui c'erano solo blog di rivenditori e nessun annuncio Alibaba, e il canale USA-Cina, trovato solo in un aggregatore.
- Incertezze
- Tutti i numeri vengono da IBM: non ho trovato valutazioni indipendenti, e Superpower Daily riprende l'annuncio senza test propri. I benchmark misurano iniezioni statiche, e IBM dice di lavorare ancora sugli attacchi adattivi in più turni. Le cifre sulla robustezza contro attacchi diretti e red teaming multi-turno (28-37% circa) e sull'allungamento del contesto (7-15% circa) vengono da un riepilogo del paper, non dalle parti lette parola per parola: vanno prese con cautela. Il blog non indica la licenza dei modelli e non nomina i modelli usati per il confronto «47%/95%». Il metodo è provato su una sola famiglia (Granite 4.1), in due taglie.
- Perché pubblicarla
- La prompt injection è il problema di sicurezza più concreto per gli agenti IA, un tema che il sito segue da vicino (acquisti degli agenti, limiti di spesa, monitor). Qui un grande gruppo pubblica un approccio verificabile: paper con tabelle, modelli scaricabili, toolkit aperto e limiti dichiarati apertamente. Il tema non era ancora stato trattato e si presta a una lettura critica: risultati forti sugli attacchi statici, prove indipendenti ancora assenti.
Fonti / Sources
- IBM Granite – Hugging Face Blog: «LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B»
- arXiv 2610.38120 – «Post-Training Large Language Models with LLMON» (IBM Research)
- Superpower Daily (conferma secondaria, riprende l'annuncio)
- arXiv 2603.22519 – paper originale sul linguaggio LLMON (IBM Research, marzo 2026)