Groq 3 LPX 进入量产：英伟达为 token 生成提速，但基准测试仍未公开

2026年8月24日，在 Hot Chips 2026 期间，英伟达在官方博客宣布，加速器 Groq 3 LPX 已进入全面量产。这是 2025 年 12 月宣布、金额达 200 亿美元的 Groq 收购案结出的第一枚商业果实。该芯片并非面向训练：它被设计为与 Vera Rubin NVL72 平台互补，承担 token 生成（decode）环节，也就是决定智能体应用体感响应速度的那一段推理。谈到这块新硅片的目标，英伟达首席执行官黄仁勋表示："We're advancing the performance frontier with LPX for ultra-fast token generation. This transforms how intelligence is produced, delivering another giant leap in AI throughput, efficiency and responsiveness."（我们正以 LPX 把性能边界推向超高速的 token 生成：这将改变智能被生产出来的方式，在吞吐、效率和响应速度上再迈一大步。）

硬件方面，已公布的规格显示，单颗加速器配备 500 MB SRAM，带宽为 150 TB/s。机架级配置在英伟达 MGX ELT 架构上集成 256 颗 LPU 芯片，合计提供 128 GB SRAM 与 40 PB/s 的带宽，并支持 12 TB DDR5 内存。首个公布的客户是新型云服务商 Nebius，它将把这款加速器整合进自家的推理平台 Nebius Token Factory。关于新架构的作用，Nebius 首席技术官 Danila Shtan 表示："Generation is the phase of inference that determines how responsive an AI system actually is, and that's exactly what Groq 3 LPX is built to accelerate."（生成才是决定一个 AI 系统实际响应速度的推理阶段，而 Groq 3 LPX 正是为加速这一环节而生。）

英伟达称，在开放模型 Gemma 4 31B 上、以 10 万 token 的上下文运行时，输出速度可达每秒 3,400 个 token，并称该系统比最接近的替代平台快四倍。同样据 StorageReview 报道，Artificial Analysis 将这一数值登记为该模型的最快成绩，但测试并未经过独立复现。不过，这些数字应当被视为利益相关方的自述：测量由英伟达自己在 2026 年 8 月 21 日于一个未公开的预发布端点上完成，既未说明对比平台，也未公开方法学。此外，该公司的官方文档本身就注明，所示性能为预测值、可能发生变化；而价格、产量以及正式上市时间迄今均未公布。

把硬件的重心移向 decode 阶段的延迟，是一个与 AI 智能体演进方向一致的架构选择。但只要速度指标仍然依附于闭门进行、跑在私有端点上的测试，这块硅片真正的分量就只能等到基准测试公开且可复现的那一天才能衡量。