Inkling-Small: арифметика эффективности обыгрывает масштаб параметров

Thinking Machines Lab оспаривает логику «чем больше, тем лучше», выпустив Inkling-Small. Несколько изданий сообщили новость 31 июля, однако официальная карточка модели датирует публикацию задним числом — 30 июля 2026 года. Модель резко упрощена: с 975 миллиардов параметров у Inkling — до 276 миллиардов, причём на каждый токен активны лишь 12 миллиардов. Архитектура — декодерный трансформер из 42 слоёв с крайне разреженной основой Mixture-of-Experts: каждый токен направляется всего к 6 экспертам из 256 доступных плюс 2 общих эксперта, работающих всегда. Всё это распространяется по лицензии Apache 2.0.

Сжатие, судя по всему, не сказалось на положении в Intelligence Index: Inkling-Small набирает 40 баллов — всего на один меньше предшественника. Официальные данные лаборатории: 80,2 % в SWE-bench Verified, 89,5 % в GPQA Diamond, 95,5 % в AIME 2026 и 74,0 % в MMMU Pro. Это заявления самого разработчика, независимо не воспроизведённые, за исключением Intelligence Index. The Decoder, разбирая те же данные, отмечает, что новая модель обходит старшего собрата в отдельных тестах — Humanity's Last Exam и GPQA Diamond.

Настоящий скачок — эксплуатационный, и он виден в требованиях к железу. Версии BF16 нужно не менее 600 ГБ суммарной видеопамяти, а квантизация NVFP4 позволяет опуститься до 180 ГБ: этого хватает для одной NVIDIA B300 или двух H200 — против 2 ТБ у старшей модели в BF16 и её же 600 ГБ в той же квантизации NVFP4. Эффективность видна и в расходе токенов: Artificial Analysis фиксирует в среднем около 24 000 токенов на задачу против примерно 25 000 у Inkling, около 45 000 у DeepSeek V4 Flash и около 78 000 у GPT-5.4 mini.

Остаются, впрочем, расхождения, которые надо прояснить. Данные о контекстном окне не сходятся: лаборатория заявляет до 1 миллиона токенов, а независимые измерения останавливаются на 256 000. Мультимодальность на месте — модель принимает текст, изображения и звук, но выдаёт только текст, — как и поддержка фреймворков вроде vLLM и SGLang. Зато пока нет ни прайс-листов, ни внешних оценок безопасности, из-за чего картина затрат и рисков для корпоративного внедрения остаётся неполной.

Сравнение открытых моделей смещается с абсолютного балла на стоимость их запуска. — Olya