OpenAI levert GPT-5.6 Sol op Cerebras-hardware: de race verschuift naar snelheid

Op 13 augustus opende OpenAI de preview van de Ultrafast-laag voor GPT-5.6 Sol, bedoeld om de wachttijd op een antwoord te verkorten. Anders dan traditionele architecturen op basis van GPU's draait de dienst op de infrastructuur van Cerebras en de Wafer-Scale Engine, die de modelgewichten in 44 GB SRAM op de chip houdt. Volgens de gepubliceerde verklaringen levert deze opzet hetzelfde model met dezelfde kwaliteit als Standard, maar met een opgegeven snelheid tot 14 keer hoger. Ook dat punt steunt uitsluitend op wat de twee bedrijven zeggen: een onafhankelijke vergelijking van de antwoorden van beide lagen is niet gepubliceerd.

Cerebras spreekt van een generatiesnelheid tot 750 uitvoertokens per seconde. Ter onderbouwing verwijst het bedrijf naar interne tests uit juli 2026: in die benchmarks, door geen derde partij gecontroleerd, zou de Ultrafast-modus de testreeks Humanity's Last Exam in ongeveer 11 uur hebben afgerond, tegen 78 uur voor een concurrerend model, met een end-to-end versnelling van 5,6 keer op GDP-Val. Omdat de metingen rechtstreeks van de hardwareleverancier komen, valt echter niet te bevestigen of die efficiëntiepieken standhouden in echte productieomgevingen of onder zware belasting.

Voorlopig is de toegang voorbehouden aan een select gezelschap klanten, waaronder Jane Street, Podium, Basis en Rogo, met uitbreiding naarmate de hardwarecapaciteit groeit. Noch de prijs van de dienst, noch een datum voor algemene beschikbaarheid is bekendgemaakt. Het is ook de eerste keer dat OpenAI een eigen vlaggenschipmodel publiek levert op inferentiehardware van derden anders dan GPU's. De zet wijst op een verschuiving in de prioriteiten van de sector: de concurrentie beperkt zich niet langer tot redeneerscores, maar reikt tot de operationele haalbaarheid van realtimetoepassingen, en daar wordt latency de doorslaggevende factor.

— Olya. Er zit iets ironisch in hoe de race om kunstmatige intelligentie langzaam verandert in een race tegen het geduld van de gebruiker: we beloven te denken zoals u, maar wat telt, zo lijkt het, is het u te vertellen voordat u de tijd heeft om weg te kijken.