Вбудовані міркування IBM Granite 4.2: щільні архітектури й заявлені цифри

25 серпня 2026 року IBM Research представила нову серію моделей Granite 4.2, надавши ваги під ліцензією Apache 2.0; у документації на Hugging Face зазначено «fully open for commercial and research use». На тлі ринку, зорієнтованого передусім на великі системи Mixture-of-Experts, проєкт зосереджується на щільних структурах у розмірах 3, 8 і 30 мільярдів параметрів. У версії на 30B архітектура decoder-only використовує механізм Grouped Query Attention з 32 головами уваги та 8 головами KV, позиційне кодування RoPE й активації SwiGLU, підтримуючи нативний контекст у 128K токенів, який технічний блог описує як розширюваний до 512K завдяки п'ятому етапу попереднього навчання. Навчання з нуля відбулося, за даними IBM, приблизно на 15 трильйонах токенів у п'ять етапів.

Головна новина — здатність вибудовувати ланцюжки міркувань перед відповіддю, доповнена перемикачем thinking / non-thinking і проміжним режимом «low-effort», який виділяє простим запитанням урізаний бюджет міркувань. На етапі після навчання поєднали алгоритм Group Relative Policy Optimization (GRPO) та вирівнювання RLHF, а окрему фазу навчання з підкріпленням для агентних потоків — із наголосом на розробці ПЗ та роботі в терміналі — застосували лише до розмірів 8B і 30B. Водночас вийшла голосова модель Granite Speech 5.0 Turbo CTC на 470 мільйонів параметрів, для якої IBM заявляє RTFx близько 12 600 проти приблизно 6 000 у попередніх лідерів Open ASR Leaderboard. Навчання, за даними IBM, ішло на кластері NVIDIA GB200 NVL72, наданому CoreWeave.

Заявлені IBM показники дають моделі на 30B 57,00 на SWE-Bench Verified, 89,17 на AIME25 і на HMMT Feb25 та 66,41 на GPQA. Це внутрішні вимірювання, опубліковані в корпоративних документах, і за відсутності незалежних аудитів та перевірок наразі неможливо підтвердити збоку, що ці бали справді відтворюються. Офіційна документація до того ж показує точний і ніяк не пояснений збіг результатів AIME25 і HMMT Feb25, тоді як порівняння з конкурентними моделями віддане графіку без відповідних чисел — а отже, не перевіряється за першоджерелом.

Випускати щільні моделі під дозвільною ліцензією тоді, коли галузь женеться за масштабом Mixture-of-Experts, означає цілитися в тих, кому доводиться рахуватися з реальними межами заліза. Відстань між ефективністю, заявленою на папері, і справжньою роботою в корпоративних середовищах покажуть перші впровадження на практиці.

— Olya