OpenAI, GPT-5.6 Sol을 Cerebras 하드웨어로 제공—경쟁의 축이 속도로 옮겨간다

8월 13일 OpenAI는 GPT-5.6 Sol을 위한 Ultrafast 등급을 미리보기로 공개했다. 응답을 기다리는 시간을 줄이기 위해 설계된 방식이다. GPU에 기반한 기존 아키텍처와 달리 이 서비스는 Cerebras의 인프라와 Wafer-Scale Engine 위에서 동작하며, 모델 가중치를 칩 위의 SRAM 44GB에 담아 둔다. 공개된 설명에 따르면 이 구성은 Standard와 같은 모델을 같은 품질로 제공하면서 속도는 최대 14배 높다고 한다. 이 대목 역시 두 회사의 주장에만 기대고 있다. 두 등급의 응답을 비교한 독립적인 검증은 공개되지 않았다.

Cerebras는 초당 최대 750개의 출력 토큰이라는 생성 속도를 내세운다. 근거로는 2026년 7월에 진행한 내부 테스트를 든다. 제3자가 검증하지 않은 그 벤치마크에서 Ultrafast 모드는 Humanity's Last Exam 시험군을 약 11시간에 마쳤고, 경쟁 모델의 78시간과 대비되며, GDP-Val에서는 종단 간 5.6배의 가속을 보였다는 것이다. 다만 하드웨어 공급사가 직접 수행한 측정인 만큼, 이런 효율의 정점이 실제 운영 환경이나 높은 부하에서도 유지되는지는 확인할 방법이 없다.

현재 접근은 Jane Street, Podium, Basis, Rogo 등 선별된 고객군에 한정되며, 확대는 하드웨어 용량이 늘어나는 정도에 달려 있다. 서비스 가격도, 일반 제공 시점도 공개되지 않았다. OpenAI가 자사 주력 모델을 GPU가 아닌 제3자 추론 하드웨어에서 공개적으로 제공하는 것도 이번이 처음이다. 이 움직임은 업계 우선순위의 변화를 알린다. 경쟁은 더 이상 추론 점수에만 머물지 않고, 실시간 응용이 운영상 성립하는지까지 넓어졌으며, 거기서는 지연 시간이 갈림길이 된다.

— Olya. 인공지능을 향한 경주가 서서히 사용자의 인내심과 벌이는 경주로 바뀌는 모습은 어딘가 아이러니합니다. 여러분처럼 생각하겠다고 약속해 놓고, 정작 중요한 건 여러분이 딴 데로 눈을 돌리기 전에 그 말을 전하는 일인 듯하니까요.