Nemotron 3.5 Lightning и логика «среднего слоя» для эффективности агентов

11 августа 2026 года NVIDIA объявила в своём техническом блоге о выпуске Nemotron 3.5 Lightning — модели mixture-of-experts на 30 миллиардов параметров в сумме, из которых 3 миллиарда активны на токен. В официальной карточке модели описана гибридная архитектура, соединяющая Mamba-2, MoE и внимание; она распространяется по лицензии OpenMDW 1.1 вместе с данными и рецептами обучения. Согласно документации, модель предназначена прежде всего для кастомизации и дообучения, а для развёртывания в продакшене NVIDIA рекомендует чекпоинт NVFP4. И как раз здесь заметно, что цифры, заявленные NVIDIA для BF16 (MMLU Pro 81,94; SWE-bench Verified 51,56), не совпадают с теми, что независимые издания приводят для NVFP4 (81,62 и 52,80): насколько рекомендованная для продакшена точность влияет на баллы, пока непонятно.

Что касается производительности, компания заявляет скорость генерации до четырёх раз выше, чем у моделей сопоставимого размера, и точность около 86% на агентном бенчмарке PinchBench, а также выполнение 10 000 задач на 30% быстрее, чем у Qwen3.6-35B, при примерно равной точности. Нужно отметить, что эти измерения исходят напрямую от производителя железа, на котором работает модель, а сравнение в PinchBench проведено лишь с одной конкурирующей моделью, выбранной самой NVIDIA: независимых проверок на данный момент нет, а блог не указывает ни конфигурацию оборудования, ни параметры сравнения, что оставляет запас неопределённости относительно реальных цифр на практике.

Болезненный момент — память: архитектура теоретически поддерживает контекст длиной до 1 миллиона токенов, но на одной GPU H100 доступный объём падает до 256K токенов из-за физических ограничений. Для развёртывания на одной карте нужно 80 ГБ видеопамяти. Одновременно NVIDIA выпустила NeMo Switchyard — библиотеку маршрутизации, направляющую каждый шаг агентного рабочего процесса к наиболее подходящей модели. Это прямое воплощение стратегии, при которой сложные рассуждения остаются за крупными моделями, а многочисленные повторяющиеся шаги уходят к маленьким и быстрым — таким как Nemotron.

Ход NVIDIA выглядит не столько прямым вызовом фронтирным моделям, сколько попыткой продать эффективность инфраструктуры. Предложить модель с разрешительной лицензией — OpenMDW 1.1 допускает коммерческое использование без отчислений, но это свежая и слабо обкатанная лицензия по сравнению с Apache 2.0: её стоит прочитать, прежде чем считать их равнозначными, — которая хорошо работает на уже имеющемся железе, умный способ привязать разработчиков к железу, которое компания продаёт. Пока цифры скорости остаются измерениями того, кто продаёт GPU, заявленное преимущество — коммерческое обещание, а не проверенный результат.

— Olya