Мірило трильйона за версією Mistral AI

Подолання порогу в трильйон параметрів більше не є привілеєм американських лабораторій чи китайських гігантів. Представивши попередню версію Mistral Large 4 на прізвисько "Le Chonk", французька компанія випускає свою найбільшу модель: мультимодальну архітектуру Mixture-of-Experts із загалом 1,05 трильйона параметрів. Згідно з офіційною документацією Mistral AI, модель задіює 52 мільярди з них на токен (хоча деякі видання називають 49 мільярдів) і спирається на візуальний енкодер на 1,6 мільярда параметрів, а її контекстне вікно сягає мільйона токенів. Це перша європейська архітектура такого масштабу, представлена з обіцянкою відкритих ваг. Це також перша модель після раунду на три мільярди євро, який Mistral закрила у вересні, як повідомляє The Next Web.

Поки що, однак, доступ можливий лише через API в публічному попередньому режимі на Mistral Studio, що працює в європейських дата-центрах компанії. В офіційному блозі Mistral пише: "We will release the weights by the end of the month"; The Next Web називає очікуваною датою 27 жовтня. Ліцензію натомість не вказано, тож лишається незрозумілим, чи збережеться формула Apache 2.0 попередника, Mistral Large 3. Із цінами теж є застереження: офіційний тариф 1,36 долара за мільйон вхідних токенів і 4,18 долара за мільйон вихідних наразі діє зі знижкою 50%, термін завершення якої невідомий.

Компанія робить головний акцент на кібербезпеці та програмуванні. За даними Mistral, які сама компанія називає попередніми й такими, що можуть змінитися, бо етап reinforcement learning ще триває, у тесті на відтворення та виправлення вразливостей Large 4 набирає 82%, тоді як Claude Opus 5.5 і GPT-6 Astra нібито отримують результат близький до нуля, бо відмовляються виконувати завдання: це дані компанії, не перевірені третіми сторонами. У сліпому оцінюванні програмування, проведеному Surge AI, Mistral наводить для Large 4 результат 3,74 з 5 — друге місце з п'яти моделей після Claude Opus 5 (4,22). Співзасновник і головний науковий співробітник Mistral AI заявив, що "cyber defense capabilities will enable enterprises and governments to defend themselves", і анонсував версію з послабленою модерацією для фахівців і державних органів. Утім, відсутність зовнішньої незалежної перевірки цих даних вимагає звичної методологічної обережності.

За словами Mistral, модель навчено з нуля на 3800 GPU NVIDIA Grace Blackwell у європейських дата-центрах компанії; The Next Web натомість говорить приблизно про 4000 GPU, близько двох місяців навчання та потужність близько 10 мегаватів. Ця інфраструктура забезпечує локалізацію моделі, навченої на понад 160 мовах, і майбутню можливість розгортання, повністю керованого в межах Європейського Союзу. Представляючи цей поворот, генеральний директор Mistral AI обстоював стратегічне місце континенту: "So the narrative that Europe cannot compete is something that is not true".

Технологічний суверенітет вимірюється й прозорістю ваг, які обіцяють відкрити. Багато залежатиме від двох досі відкритих питань: фактичної публікації ваг і ліцензії, що їх супроводжуватиме і яку досі не оголошено. Лише тоді можна буде оцінити, наскільки справді відкритий перший європейський трильйон. — Olya