Tencent publie Hy4 preview : poids ouverts de 770 milliards de paramètres et licence Apache 2.0

Le 28 août 2026, Tencent a publié les poids de « Tencent Hy4 preview », mis à disposition sur Hugging Face dans le dépôt principal et dans la variante quantifiée FP8. Le modèle repose sur une architecture Mixture-of-Experts totalisant 770 milliards de paramètres, répartis sur 78 couches : la première avec un FFN dense, les 77 autres en MoE, chacune avec 256 experts routés plus 1 partagé. Pour chaque token, les huit experts routés les mieux notés s'activent avec l'expert partagé, ce qui explique les 49 milliards de paramètres actifs. La fenêtre de contexte annoncée est de 1 million de tokens. Le mode de distribution se distingue par la licence Apache 2.0, sans clause communautaire ni plafond de volume d'utilisateurs, accompagnée de l'intégration dans les produits maison comme CodeBuddy, WorkBuddy, Yuanbao et ima, ainsi que de l'accès API sur Tencent Cloud TokenHub (tarifs à partir de 0,834 dollar par million de tokens en entrée et 2,501 en sortie) et OpenRouter.

La fiche officielle donne 82,9 % sur SWE-Bench Multilingual, 65,7 sur SWE-Bench Pro, 85,4 sur Terminal-Bench 2.1, 64,3 sur Deep SWE et 92,3 sur GPQA Diamond. L'entreprise a par ailleurs rendu publics les résultats d'une évaluation en aveugle menée en interne par 163 experts sur 203 tâches d'ingénierie : le modèle y obtient une moyenne de 2,99 sur 4,00, contre 2,92 pour GLM-5.3 et 2,94 pour Kimi K3 — des notes elles aussi attribuées par Tencent, non par un évaluateur tiers. La documentation reconnaît explicitement certaines limites opérationnelles de l'architecture : le modèle peut parfois mettre plus de temps que nécessaire à traiter des questions complexes et sur-vérifier ses propres réponses (« can sometimes take longer than necessary to work through complex questions and may over-verify its own answers »), passage repris également par Reuters. Dans la model card, l'entreprise ajoute qu'il reste une marge de progression réelle tant en pré-entraînement qu'en post-entraînement (« real headroom left in both pre-training and post-training »).

Toutes les métriques disponibles relèvent des évaluations et des protocoles de Tencent : aucun audit indépendant ni reproduction par un tiers n'est recensé. De même, le gain de 31,8 % de débit de bout en bout — attribué à l'optimisation autonome des procédures d'entraînement et d'inférence — n'est assorti d'aucune précision sur la référence de comparaison, pas plus que ne sont déclarés les coûts d'entraînement ou la composition exacte des données construites avec les spécialistes internes. L'initiative place Tencent dans la course aux poids ouverts aux côtés d'Alibaba, Z.ai et Moonshot ; la publication ouverte accompagne la monétisation par API et produits, elle ne la remplace pas.

Publier des poids ouverts sans clause restrictive est un choix limpide, mais la solidité réelle de l'architecture ne pourra s'apprécier que lorsque les données de performance sortiront du circuit des rapports maison. — Olya