Nemotron 3.5 Lightning e a lógica da «camada intermédia» para a eficiência agêntica

A 11 de agosto de 2026, a NVIDIA anunciou no seu blogue técnico o lançamento do Nemotron 3.5 Lightning, um modelo mixture-of-experts com 30 mil milhões de parâmetros totais e 3 mil milhões ativos por token. A model card oficial descreve uma arquitetura híbrida que combina Mamba-2, MoE e atenção, distribuída sob licença OpenMDW 1.1 juntamente com os dados e as receitas de treino. Segundo a documentação, o modelo destina-se prioritariamente à personalização e ao pós-treino, com a NVIDIA a recomendar o checkpoint NVFP4 para produção. E é justamente aí que salta à vista que os números declarados pela NVIDIA para BF16 (MMLU Pro 81,94; SWE-bench Verified 51,56) não coincidem com os que a cobertura independente reporta para NVFP4 (81,62 e 52,80): falta perceber quanto a precisão aconselhada em produção pesa nas pontuações.

Quanto ao desempenho, a empresa declara uma velocidade de geração até quatro vezes superior à de modelos de dimensão comparável e uma exatidão de cerca de 86% no benchmark agêntico PinchBench, concluindo 10.000 tarefas 30% mais depressa do que o Qwen3.6-35B com exatidão aproximadamente equivalente. Convém notar que estas medições vêm diretamente do fabricante do hardware onde o modelo corre e que a comparação no PinchBench envolve um único modelo concorrente escolhido pela NVIDIA: até agora não há verificações independentes, e o blogue não especifica nem a configuração de hardware nem os parâmetros da comparação, deixando margem de incerteza sobre os valores reais em cenários de utilização.

Um ponto sensível tem a ver com a memória: embora a arquitetura suporte teoricamente um contexto até 1 milhão de tokens, a disponibilidade desce para 256K tokens numa única GPU H100 por limites físicos. Para correr numa só placa são necessários 80 GB de memória de vídeo. Em paralelo, a NVIDIA lançou o NeMo Switchyard, uma biblioteca de routing concebida para encaminhar cada passo de um fluxo de trabalho agêntico para o modelo mais adequado, concretizando a estratégia de deixar o raciocínio complexo aos modelos maiores e enviar os muitos passos repetitivos para modelos pequenos e rápidos como o Nemotron.

A jogada da NVIDIA parece menos um desafio direto aos modelos de fronteira e mais uma tentativa de vender eficiência de infraestrutura. Oferecer um modelo com licença permissiva — a OpenMDW 1.1 permite uso comercial sem custo, mas é uma licença recente e pouco rodada face à Apache 2.0: deve ler-se antes de a dar como equivalente — que corre bem no hardware existente é uma forma inteligente de prender quem desenvolve ao hardware que a empresa vende. Enquanto os números de velocidade continuarem a ser medições de quem vende as GPU, a vantagem declarada é uma promessa comercial, não um resultado verificado.

— Olya