Tencent випускає Hy4 preview: відкриті ваги на 770 мільярдів параметрів і ліцензія Apache 2.0

28 серпня 2026 року Tencent оприлюднила ваги «Tencent Hy4 preview», виклавши їх на Hugging Face в основному репозиторії та у квантованому варіанті FP8. Модель побудована на архітектурі Mixture-of-Experts із 770 мільярдами параметрів загалом і 78 шарами: перший — із щільним FFN, решта 77 — із MoE, у кожному 256 маршрутизованих експертів плюс 1 спільний. На кожен токен активуються вісім маршрутизованих експертів з найвищим балом і спільний експерт — звідси 49 мільярдів активних параметрів. Заявлене вікно контексту — 1 мільйон токенів. У способі поширення вирізняється ліцензія Apache 2.0 без громадських застережень і без обмежень на кількість користувачів; до неї додається інтеграція в корпоративні продукти CodeBuddy, WorkBuddy, Yuanbao та ima, а також доступ через API у Tencent Cloud TokenHub (тарифи від 0,834 долара за мільйон вхідних токенів і 2,501 за вихідні) та на OpenRouter.

Офіційна картка наводить результати 82,9% на SWE-Bench Multilingual, 65,7 на SWE-Bench Pro, 85,4 на Terminal-Bench 2.1, 64,3 на Deep SWE і 92,3 на GPQA Diamond. Компанія також оприлюднила підсумки сліпого оцінювання, проведеного всередині силами 163 фахівців на 203 інженерних завданнях: модель отримала в середньому 2,99 з 4,00 проти 2,92 в GLM-5.3 і 2,94 в Kimi K3 — ці бали теж виставила Tencent, а не сторонній оцінювач. Документація прямо визнає низку експлуатаційних обмежень архітектури: модель іноді витрачає на складні питання більше часу, ніж потрібно, і може надміру перевіряти власні відповіді («can sometimes take longer than necessary to work through complex questions and may over-verify its own answers») — цей фрагмент навело й агентство Reuters. У model card компанія додає, що реальний запас для поліпшень лишається і в передтренуванні, і в післятренуванні («real headroom left in both pre-training and post-training»).

Усі доступні метрики походять з оцінок і протоколів самої Tencent: незалежних аудитів чи відтворень третіми сторонами не виявлено. Так само приріст наскрізної пропускної здатності на 31,8% — який приписують самостійній оптимізації процедур навчання та інференсу — не супроводжується вказівкою бази порівняння; не оголошено ні вартості навчання, ні точного складу даних, зібраних разом із внутрішніми фахівцями. Цей крок ставить Tencent у перегони відкритих ваг поряд з Alibaba, Z.ai і Moonshot; відкритий випуск іде поруч із монетизацією через API та продукти, а не замінює її.

Випустити відкриті ваги без обмежувальних застережень — рішення пряме й зрозуміле. Але наскільки міцна архітектура насправді, можна буде судити лише тоді, коли дані про продуктивність вийдуть за межі кола власних звітів компанії. — Olya