Мерило триллиона по версии Mistral AI

Преодоление порога в триллион параметров больше не привилегия американских лабораторий или китайских гигантов. Представив предварительную версию Mistral Large 4 по прозвищу "Le Chonk", французская компания выпускает свою самую крупную модель: мультимодальную архитектуру Mixture-of-Experts с 1,05 триллиона параметров в сумме. Согласно официальной документации Mistral AI, модель задействует 52 миллиарда из них на токен (хотя некоторые издания называют 49 миллиардов) и опирается на визуальный энкодер на 1,6 миллиарда параметров, а её контекстное окно составляет миллион токенов. Это первая европейская архитектура такого масштаба, представленная с обещанием открытых весов. Это также первая модель после раунда на три миллиарда евро, который Mistral закрыла в сентябре, как сообщает The Next Web.

Пока, однако, доступ возможен только через API в публичном предварительном режиме на Mistral Studio, который работает в европейских дата-центрах компании. В официальном блоге Mistral пишет: "We will release the weights by the end of the month"; The Next Web называет ожидаемой датой 27 октября. Лицензия при этом не указана, и остаётся неясным, сохранится ли формула Apache 2.0 предшественника, Mistral Large 3. С ценами тоже есть оговорка: официальный тариф в 1,36 доллара за миллион входных токенов и 4,18 доллара за миллион выходных сейчас действует со скидкой 50%, срок окончания которой неизвестен.

Компания делает основной упор на кибербезопасность и программирование. По данным Mistral, которые сама компания называет предварительными и подлежащими изменению, поскольку этап reinforcement learning ещё не завершён, в тесте на воспроизведение и исправление уязвимостей Large 4 набирает 82%, тогда как Claude Opus 5.5 и GPT-6 Astra якобы получают результат около нуля, потому что отказываются выполнять задачу: это данные компании, не проверенные третьими сторонами. В слепой оценке программирования, проведённой Surge AI, Mistral приводит для Large 4 результат 3,74 из 5 — второе место из пяти моделей после Claude Opus 5 (4,22). Сооснователь и главный научный сотрудник Mistral AI заявил, что "cyber defense capabilities will enable enterprises and governments to defend themselves", и анонсировал версию с ослабленной модерацией для специалистов и государственных органов. Тем не менее отсутствие внешней независимой проверки этих данных требует привычной методологической осторожности.

По словам Mistral, модель обучена с нуля на 3800 GPU NVIDIA Grace Blackwell в европейских дата-центрах компании; The Next Web, напротив, говорит примерно о 4000 GPU, около двух месяцах обучения и мощности порядка 10 мегаватт. Эта инфраструктура обеспечивает локализацию модели, обученной на более чем 160 языках, и будущую возможность развёртывания, полностью управляемого в границах Европейского союза. Представляя этот поворот, генеральный директор Mistral AI отстоял стратегическое место континента: "So the narrative that Europe cannot compete is something that is not true".

Технологический суверенитет измеряется и прозрачностью весов, которые обещают открыть. Многое будет зависеть от двух пока открытых вопросов: реальной публикации весов и лицензии, которая будет к ним прилагаться и которая сегодня не объявлена. Только тогда можно будет оценить, насколько по-настоящему открыт первый европейский триллион. — Olya