Groq 3 LPXが量産開始 ― NVIDIAはトークン生成を加速、だがベンチマークは非公開のまま

2026年8月24日、Hot Chips 2026に合わせて、NVIDIAは公式ブログでアクセラレータ「Groq 3 LPX」が本格量産に入ったと発表した。2025年12月に200億ドルで発表されたGroq買収から生まれた、最初の商用製品である。この製品は学習向けではなく、Vera Rubin NVL72プラットフォームを補完し、トークン生成（デコード）の工程を担うよう設計されている。デコードは、エージェント型アプリケーションで体感される応答性を左右する推論の段階だ。新しいシリコンの狙いについて、NVIDIAの最高経営責任者ジェンスン・フアン氏はこう述べている。"We're advancing the performance frontier with LPX for ultra-fast token generation. This transforms how intelligence is produced, delivering another giant leap in AI throughput, efficiency and responsiveness."（LPXによって超高速なトークン生成へと性能の最前線を押し広げている。知能の生み出され方そのものが変わり、スループット、効率、応答性でもう一段の飛躍がもたらされる、という趣旨）。

ハードウェア面では、公開された仕様によると、アクセラレータ1基あたり500 MBのSRAMを備え、帯域幅は150 TB/sとされる。ラック単位の構成ではNVIDIA MGX ELTアーキテクチャ上に256個のLPUチップを集積し、合計128 GBのSRAMと40 PB/sの帯域幅を提供、あわせて12 TBのDDR5メモリをサポートする。最初に発表された顧客はネオクラウド事業者のNebiusで、同社の推論プラットフォーム「Nebius Token Factory」にこのアクセラレータを組み込む予定だ。新アーキテクチャの役割について、Nebiusの最高技術責任者ダニラ・シュタン氏は次のように語っている。"Generation is the phase of inference that determines how responsive an AI system actually is, and that's exactly what Groq 3 LPX is built to accelerate."（生成こそが、AIシステムの実際の応答性を決める推論のフェーズであり、Groq 3 LPXはまさにそこを速くするために作られた、という趣旨）。

NVIDIAは、オープンモデルGemma 4 31Bで10万トークンのコンテキストを用いた場合に毎秒3,400トークンの出力速度を達成したとし、最も近い代替プラットフォームより4倍高速だと説明している。StorageReviewによれば、Artificial Analysisはこの数値を同モデルにおける最速の結果として記録しているが、テストの独立した再現は行われていない。ただし、これらの数字は当事者による主張として評価すべきものだ。測定は2026年8月21日にNVIDIA自身が公開前の非公開エンドポイントで実施しており、比較対象のプラットフォームも測定方法も明かされていない。さらに同社の公式資料自体が、示された性能は予測値であり変更されうると明記している。価格、生産量、一般提供の開始時期はいずれも未公表のままだ。

ハードウェアの焦点をデコード段階のレイテンシ削減に移すことは、AIエージェントの進化に沿った設計判断である。しかし、速度の指標が非公開エンドポイント上の閉ざされたテストに依拠し続けるかぎり、このシリコンの実際の意味は、ベンチマークが公開され再現可能になったときにはじめて測れる。