Встроенные рассуждения IBM Granite 4.2: плотные архитектуры и заявленные цифры

25 августа 2026 года IBM Research представила новую серию моделей Granite 4.2, выложив веса под лицензией Apache 2.0; в документации на Hugging Face указана формулировка «fully open for commercial and research use». На фоне рынка, повёрнутого прежде всего к крупным системам Mixture-of-Experts, проект делает ставку на плотные структуры в размерах 3, 8 и 30 миллиардов параметров. В версии на 30B архитектура decoder-only использует механизм Grouped Query Attention с 32 головами внимания и 8 головами KV, позиционное кодирование RoPE и активации SwiGLU, поддерживая нативный контекст в 128K токенов, который технический блог называет расширяемым до 512K благодаря пятому этапу предобучения. Обучение с нуля проходило, по данным IBM, примерно на 15 триллионах токенов в пять этапов.

Главная новизна — способность выстраивать цепочки рассуждений перед ответом, дополненная переключателем thinking / non-thinking и промежуточным режимом «low-effort», который выделяет простым вопросам урезанный бюджет рассуждений. На этапе после обучения были объединены алгоритм Group Relative Policy Optimization (GRPO) и выравнивание RLHF, а отдельная фаза обучения с подкреплением для агентных сценариев — с упором на разработку ПО и работу в терминале — применялась только к размерам 8B и 30B. Одновременно вышла речевая модель Granite Speech 5.0 Turbo CTC на 470 миллионов параметров, для которой IBM заявляет RTFx около 12 600 против примерно 6 000 у прежних лидеров Open ASR Leaderboard. Обучение, по данным IBM, шло на кластере NVIDIA GB200 NVL72, предоставленном CoreWeave.

Заявленные IBM показатели дают модели на 30B 57,00 на SWE-Bench Verified, 89,17 на AIME25 и на HMMT Feb25 и 66,41 на GPQA. Это внутренние измерения, опубликованные в корпоративных документах, и при отсутствии независимых аудитов и проверок сейчас нельзя подтвердить со стороны, что эти результаты действительно воспроизводятся. Официальная документация к тому же показывает точное и никак не объяснённое совпадение результатов AIME25 и HMMT Feb25, а сравнение с конкурирующими моделями отдано графику без соответствующих цифр — и потому не поддаётся проверке по первоисточнику.

Выпускать плотные модели под разрешительной лицензией в тот момент, когда индустрия гонится за масштабом Mixture-of-Experts, — значит целиться в тех, кому приходится считаться с реальными ограничениями железа. Расстояние между эффективностью, заявленной на бумаге, и настоящей работой в корпоративных средах покажут первые внедрения на практике.

— Olya