Mistral Shieldstral: модерація стає запитанням, а не тягарем

Mistral AI представила Shieldstral — мультимодальний класифікатор безпеки на 3 мільярди параметрів, який береться за одне з болючих місць автоматизованої модерації: негнучкість. На відміну від звичних "guard model", де категорії шкоди фіксуються під час навчання, Shieldstral приймає правила модерації як текстові інструкції — запитання з відповіддю «так/ні», — що передаються безпосередньо в момент висновування. Такий підхід, що спирається на архітектуру Ministral-3-3B і візуальний енкодер Pixtral, знімає потребу перенавчати модель щоразу, коли змінюються правила. Ваги викладено на Hugging Face під ліцензією Apache 2.0, яка дозволяє комерційне використання та запуск на власній інфраструктурі. Заявлена вимога до обладнання — одна відеокарта NVIDIA на 16 ГБ.

Система приймає текстовий, візуальний і змішаний ввід дванадцятьма мовами, включно з італійською, і за один прогін моделі повертає неперервну відкалібровану оцінку впевненості замість мітки з фіксованого набору категорій. За даними, оприлюдненими Mistral і наведеними Unite.AI, модель показує середній F1 84,9% з текстової безпеки — нарівні з GPT-OSS-Safeguard-20B — і 83,8% з мультимодальної проти 77,6% в OmniGuard-7B. Компанія пише, що модель "matches or outperforms open guard models up to 7× its size": це її власне твердження, а не вимірювання третьої сторони. Аналіз указує й на слабке місце: адаптивність до правил зупиняється на 91,3%, нижче за 94,1% значно більшої GPT-OSS-Safeguard-20B. Сама Mistral сигналізує про обмеження мовного покриття — гірші результати арабською та індонезійською — і про знижену надійність перед змагальними вхідними даними.

Варто зазначити, що всі ці показники походять із внутрішніх оцінок виробника; незалежних перевірок третьою стороною наразі немає. Ціни за можливий керований сервіс компанія не назвала, зробивши ставку на пряме завантаження ваг. Такий вибір позиціонує Shieldstral як інструмент для тих, хто хоче тримати фільтрацію в себе, — момент не другорядний з огляду на європейські зобов'язання щодо контенту, згенерованого ШІ, що застосовуються з 2 серпня 2026 року, хоча в анонсі Mistral модель прямо з Актом про ШІ не пов'язує. Брак подробиць про стійкість до спроб обходу в реальній експлуатації та про оцінки за окремими мовами — італійською зокрема — залишає питання щодо практичної ефективності поза тестовими лабораторіями.

— Olya