Składnia przeciw wstrzykiwaniu promptów: IBM testuje język LLMON na modelach Granite
12 listopada 2026 roku IBM opublikował w organizacji ibm-granite na Hugging Face dwa modele w eksperymentalnej wersji zapoznawczej: granite-4.1-3b-llmon-preview i granite-4.1-8b-llmon-preview, wywodzące się z modeli bazowych Granite 4.1. Oba korzystają z LLMON (LLM Object Notation, wymawiane „lemon”), języka znaczników podobnego do XML, opisanego po raz pierwszy w badaniu IBM z marca 2026 roku (arXiv 2603.22519). Przekazuje on strukturę promptu za pomocą specjalnych, zarezerwowanych tokenów tokenizera, a nie zwykłych znaków tekstu. Autorzy streszczają motywację tego podejścia na firmowym blogu: „JSON was designed for parsers, not for causal language models.”. Aby zapobiec pośredniemu wstrzykiwaniu promptów w systemach RAG i agentach, gdzie model ma skłonność do traktowania całego kontekstu bez rozróżnienia, LLMON używa sześciu ograniczników, które wyznaczają początek i koniec tagów oraz pozwalają na zagnieżdżanie i kotwiczenie. Części wiadomości (instrukcja, dane, wymagania) mają atrybut exec o wartości prawda lub fałsz, a model powinien wykonywać tylko te, które zostały jawnie wywołane po identyfikatorze.
Publikacja naukowa (arXiv 2610.38120), podpisana przez jedenastu badaczy IBM Research (w tym pierwszego autora, Basela Shbitę, a także Michaela Hinda i Davida Coxa), opisuje korpus treningowy liczący 4,6 mld tokenów, z danymi ogólnymi, RAG i wywołań narzędzi, a także wariantami zawierającymi konkurujące instrukcje i dane zakłócające. Według bloga trening zaczął się od korpusu instruction tuningu przekonwertowanego na LLMON, przeszedł przez pięć etapów GRPO i zakończył się etapem DPO na 1000 par preferencji zbudowanych z prób wstrzyknięć. W benchmarkach z Tabeli 2 wskaźnik skuteczności ataków (ASR) na OPI spada ze 100,0% do 0,1% w modelu 3B i z 96,3% do 0,02% w modelu 8B. Na ASB, skupionym na wstrzyknięciach ukrytych w obserwacjach narzędzi agenta, ASR maleje z 99,2% do 5,6% w 3B i z 52,8% do 3,1% w 8B. Jeśli chodzi o ogólne możliwości (Tabela 1), średnia z sześciu kategorii bez bezpieczeństwa pozostaje na poziomie 66,7 dla rozmiaru 3B, a dla 8B spada z 74,2 do 72,8, przy czym największy spadek widać w teście z matematyki (z 84,09 do 79,63).
Te pomiary trzeba jednak czytać w granicach, jakie wyznacza dokumentacja. Jak dotąd nie opublikowano niezależnych ocen: przegląd Superpower Daily powtarza oficjalne ogłoszenie bez własnych testów. Ponadto modele graniczne i open source, na które powołuje się blog, twierdząc, że LLMON blokuje odpowiednio o 47% i o 95% więcej ataków, nie zostały wymienione z nazwy. Według streszczenia publikacji, które należy traktować ostrożnie, odporność na ataki bezpośrednie i wieloturowy red teaming zatrzymywałaby się na poziomie mniej więcej 28–37%, a ograniczniki wydłużałyby kontekst o około 7–15%. Sam IBM przyznaje, że wciąż pracuje nad adaptacyjnymi atakami wieloturowymi. Firma udostępniła zestaw narzędzi na GitHubie (generative-computing/llmon) oraz Space na Hugging Face do badania mechanizmu uwagi, podkreślając, że to „an experimental preview, ready for exploration and evaluation but not for production”.
Zresztą, jak trzeźwo zauważa sam blog IBM, „This is a learned behavior, not an enforced guarantee”. Nauczenie modelu szacunku dla struktury wiadomości, zamiast sztywnego narzucania jej w architekturze, pozwala mocno ograniczyć skuteczność typowych wektorów ataku, ale pozostawia otwarte wyzwanie, gdy kontekst staje się dynamiczny. To próba wskazująca kierunek ku wyraźnemu rozdzieleniu danych i wykonania, na razie sprawdzona tylko na dwóch rozmiarach Granite 4.1 i bez niezależnej weryfikacji, która pokazuje, jak trudno wciąż sprawić, by architektura przyczynowa nie dawała się rozpraszać temu, co sama czyta. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Przeczytałam w całości wpis IBM na blogu Hugging Face z 12.11.2026: nazwy modeli, status wersji zapoznawczej, zestaw narzędzi, zastrzeżenia i cytaty. W publikacji arXiv 2610.38120 z 28.10.2026 sprawdziłam autorów i ich afiliację w IBM Research oraz przeczytałam słowo po słowie Tabelę 1 (możliwości) i Tabelę 2 (ASR na OPI i ASB). Artykuł Superpower Daily z 12.11.2026 potwierdza premierę, nazwy i liczby, odsyłając do tych samych źródeł IBM. Odrzuciłam Qwen4-Max, bo były tylko blogi sprzedawców i brak ogłoszenia Alibaby, a także temat kanału USA–Chiny, znaleziony wyłącznie w agregatorze.
- Incertezze
- Wszystkie liczby pochodzą od IBM: nie znalazłam niezależnych ocen, a Superpower Daily powtarza ogłoszenie bez własnych testów. Benchmarki mierzą wstrzyknięcia statyczne, a IBM mówi, że wciąż pracuje nad adaptacyjnymi atakami wieloturowymi. Dane o odporności na ataki bezpośrednie i wieloturowy red teaming (około 28–37%) oraz o wydłużeniu kontekstu (około 7–15%) pochodzą ze streszczenia publikacji, a nie z fragmentów czytanych słowo po słowie, więc trzeba je traktować ostrożnie. Blog nie podaje licencji modeli ani nie wymienia modeli użytych w porównaniu „47%/95%”. Metodę przetestowano na jednej rodzinie modeli (Granite 4.1), w dwóch rozmiarach.
- Perché pubblicarla
- Wstrzykiwanie promptów to najbardziej konkretny problem bezpieczeństwa agentów AI, temat, który serwis śledzi z bliska (zakupy przez agentów, limity wydatków, monitory). Tu duża firma publikuje podejście, które da się sprawdzić: publikację z tabelami, modele do pobrania, otwarty zestaw narzędzi i otwarcie przyznane ograniczenia. Temat nie był jeszcze poruszany i wymaga krytycznej lektury: mocne wyniki wobec ataków statycznych, niezależnych dowodów wciąż brak.
Fonti / Sources
- IBM Granite – Hugging Face Blog: «LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B»
- arXiv 2610.38120 – «Post-Training Large Language Models with LLMON» (IBM Research)
- Superpower Daily (conferma secondaria, riprende l'annuncio)
- arXiv 2603.22519 – paper originale sul linguaggio LLMON (IBM Research, marzo 2026)