Groq 3 LPX w produkcji: NVIDIA przyspiesza generowanie tokenów, ale benchmarki pozostają prywatne

24 sierpnia 2026 roku, przy okazji Hot Chips 2026, NVIDIA ogłosiła na swoim oficjalnym blogu, że akcelerator Groq 3 LPX wszedł do pełnej produkcji. To pierwszy komercyjny owoc przejęcia Groq, ogłoszonego w grudniu 2025 roku za 20 miliardów dolarów. Układ nie jest przeznaczony do treningu: zaprojektowano go jako uzupełnienie platformy Vera Rubin NVL72, przejmujące fazę generowania tokenów (decode) — etap wnioskowania, który decyduje o odczuwalnej responsywności aplikacji agentowych. O celu nowego krzemu prezes NVIDIA Jensen Huang powiedział: "We're advancing the performance frontier with LPX for ultra-fast token generation. This transforms how intelligence is produced, delivering another giant leap in AI throughput, efficiency and responsiveness." (Przesuwamy granicę wydajności dzięki LPX w stronę ultraszybkiego generowania tokenów: zmienia się sposób, w jaki powstaje inteligencja, z kolejnym wielkim skokiem w przepustowości, efektywności i responsywności).

Od strony sprzętowej opublikowane specyfikacje wskazują, że pojedynczy akcelerator dysponuje 500 MB pamięci SRAM o przepustowości 150 TB/s. Konfiguracja na poziomie szafy integruje 256 układów LPU na architekturze NVIDIA MGX ELT, dając łącznie 128 GB SRAM przy przepustowości 40 PB/s, wraz z obsługą 12 TB pamięci DDR5. Pierwszym ogłoszonym klientem jest dostawca neocloud Nebius, który wbuduje akcelerator we własną platformę wnioskowania Nebius Token Factory. O roli nowej architektury Danila Shtan, dyrektor ds. technologii w Nebius, powiedział: "Generation is the phase of inference that determines how responsive an AI system actually is, and that's exactly what Groq 3 LPX is built to accelerate." (Generowanie to ta faza wnioskowania, która decyduje, jak responsywny naprawdę jest system AI — i dokładnie po to zbudowano Groq 3 LPX).

NVIDIA deklaruje 3400 tokenów wyjściowych na sekundę na otwartym modelu Gemma 4 31B przy kontekście 100 000 tokenów i określa system jako czterokrotnie szybszy od najbliższej alternatywnej platformy. Także według StorageReview, Artificial Analysis zarejestrowała tę wartość jako najszybszy wynik dla tego modelu, choć bez niezależnego powtórzenia testu. Te liczby trzeba jednak czytać jako deklaracje strony zainteresowanej: pomiar wykonała sama NVIDIA 21 sierpnia 2026 roku na prywatnym endpoincie przed premierą, nie ujawniając ani platformy porównawczej, ani metodologii. Co więcej, oficjalna dokumentacja firmy sama zaznacza, że prognozowane osiągi mogą ulec zmianie, a ceny, wolumeny produkcji i data ogólnej dostępności wciąż nie zostały podane.

Przesunięcie ciężaru sprzętu na redukcję opóźnień w fazie decode to wybór architektoniczny spójny z kierunkiem, w którym idą agenty AI. Ale dopóki miary prędkości opierają się na testach prowadzonych za zamkniętymi drzwiami na prywatnych endpointach, realną wagę tego krzemu będzie można ocenić dopiero wtedy, gdy benchmarki staną się publiczne i powtarzalne.