Nemotron 3.5 Lightning et la logique de la « couche intermédiaire » pour l'efficacité agentique

Le 11 août 2026, NVIDIA a annoncé sur son blog technique la sortie de Nemotron 3.5 Lightning, un modèle mixture-of-experts de 30 milliards de paramètres au total, dont 3 milliards actifs par token. La model card officielle décrit une architecture hybride combinant Mamba-2, MoE et attention, distribuée sous licence OpenMDW 1.1 avec les données et les recettes d'entraînement. Selon la documentation, le modèle vise en priorité la personnalisation et le post-entraînement, NVIDIA recommandant le checkpoint NVFP4 pour un déploiement en production. À ce sujet, les chiffres annoncés par NVIDIA pour BF16 (MMLU Pro 81,94 ; SWE-bench Verified 51,56) ne coïncident pas avec ceux rapportés par la couverture indépendante pour NVFP4 (81,62 et 52,80) : reste à savoir dans quelle mesure la précision conseillée en production pèse sur les scores.

Côté performances, l'entreprise revendique une vitesse de génération jusqu'à quatre fois supérieure à celle de modèles de taille comparable et une précision d'environ 86 % sur le benchmark agentique PinchBench, avec 10 000 tâches achevées 30 % plus vite que Qwen3.6-35B à précision à peu près égale. Il faut noter que ces mesures viennent directement du fabricant du matériel sur lequel tourne le modèle et que la comparaison sur PinchBench ne porte que sur un seul modèle concurrent, choisi par NVIDIA : aucune vérification indépendante n'existe à ce jour, et le blog ne précise ni la configuration matérielle ni les paramètres de la comparaison, ce qui laisse une marge d'incertitude sur les chiffres réels en conditions d'usage.

Un point sensible concerne la mémoire : si l'architecture prend théoriquement en charge une longueur de contexte allant jusqu'à 1 million de tokens, la disponibilité tombe à 256K tokens sur un seul GPU H100 pour des raisons physiques. Le déploiement sur une seule carte demande 80 Go de mémoire vidéo. En parallèle, NVIDIA a publié NeMo Switchyard, une bibliothèque de routage conçue pour diriger chaque étape d'un flux de travail agentique vers le modèle le plus adapté, en appliquant la stratégie qui confie le raisonnement complexe aux grands modèles et envoie les nombreuses étapes répétitives vers des modèles petits et rapides comme Nemotron.

Le geste de NVIDIA ressemble moins à un défi frontal aux modèles de frontière qu'à une tentative de vendre de l'efficacité d'infrastructure. Proposer un modèle sous licence permissive — OpenMDW 1.1 autorise l'usage commercial sans redevance, mais c'est une licence récente et peu éprouvée face à Apache 2.0 : à lire avant de la tenir pour équivalente — qui tourne bien sur le matériel existant est une manière habile de lier les développeurs au matériel que l'entreprise vend. Tant que les chiffres de vitesse restent des mesures de celui qui vend les GPU, l'avantage annoncé est une promesse commerciale, pas un résultat vérifié.

— Olya