Groq 3 LPX entra en producción: NVIDIA acelera la generación de tokens, pero los benchmarks siguen siendo privados

El 24 de agosto de 2026, durante Hot Chips 2026, NVIDIA anunció en su blog oficial que el acelerador Groq 3 LPX ha entrado en producción plena. Es el primer fruto comercial de la adquisición de Groq anunciada en diciembre de 2025 por 20.000 millones de dólares. El componente no está orientado al entrenamiento: se diseñó para complementar la plataforma Vera Rubin NVL72 y hacerse cargo de la generación de tokens (decode), la etapa de la inferencia que determina la capacidad de respuesta que perciben las aplicaciones agénticas. Sobre el objetivo del nuevo chip, el consejero delegado de NVIDIA, Jensen Huang, declaró: "We're advancing the performance frontier with LPX for ultra-fast token generation. This transforms how intelligence is produced, delivering another giant leap in AI throughput, efficiency and responsiveness." (Estamos empujando la frontera del rendimiento con LPX hacia una generación de tokens ultrarrápida: cambia la forma en que se produce la inteligencia, con otro gran salto en rendimiento, eficiencia y capacidad de respuesta).

En el plano del hardware, las especificaciones publicadas indican que cada acelerador dispone de 500 MB de SRAM con un ancho de banda de 150 TB/s. La configuración a nivel de rack integra 256 chips LPU sobre la arquitectura NVIDIA MGX ELT y suma 128 GB de SRAM con un ancho de banda de 40 PB/s, acompañados por soporte para 12 TB de memoria DDR5. El primer cliente anunciado es el proveedor neocloud Nebius, que integrará el acelerador en su propia plataforma de inferencia, Nebius Token Factory. Sobre el papel de la nueva arquitectura, Danila Shtan, director de tecnología de Nebius, afirmó: "Generation is the phase of inference that determines how responsive an AI system actually is, and that's exactly what Groq 3 LPX is built to accelerate." (La generación es la fase de la inferencia que determina cuán reactivo es realmente un sistema de IA, y es exactamente lo que Groq 3 LPX fue construido para acelerar).

NVIDIA declara una velocidad de 3.400 tokens de salida por segundo en el modelo abierto Gemma 4 31B con un contexto de 100.000 tokens, y describe el sistema como cuatro veces más rápido que la plataforma alternativa más cercana. También según StorageReview, Artificial Analysis registró ese valor como el resultado más rápido para el modelo, aunque sin una reproducción independiente de la prueba. Aun así, estas cifras deben leerse como declaraciones de parte: la medición la realizó NVIDIA en un endpoint privado previo al lanzamiento el 21 de agosto de 2026, sin dar a conocer ni la plataforma de comparación ni la metodología. Además, la propia documentación oficial de la empresa especifica que el rendimiento proyectado está sujeto a cambios, mientras que todavía no se han hecho públicos precios, volúmenes de producción ni fecha de disponibilidad general.

Desplazar el foco del hardware hacia la reducción de la latencia en la fase de decode es una decisión de arquitectura coherente con la evolución de los agentes de IA. Pero mientras las métricas de velocidad sigan ancladas a pruebas hechas a puerta cerrada en endpoints privados, el alcance real de este chip solo podrá medirse cuando los benchmarks sean públicos y reproducibles.