Jalapeño, OpenAI 자체 칩의 첫 수치가 NVIDIA를 앞섰다 — 다만 자사 연구소 밖에서 재현된 적은 없다

Jalapeño는 2026년 6월 24일 브로드컴과 함께 발표됐고, 8월 25일 OpenAI가 첫 성능 데이터를 공개했다. 새로운 것은 칩 자체가 아니라, 공개 벤치마크에서 NVIDIA 하드웨어와 비교 가능한 숫자가 드디어 나왔다는 사실이다. SemiAnalysis의 오픈소스 스위트 InferenceX로 진행된 측정에 따르면, 이 프로세서는 NVIDIA GB200·GB300 시스템 대비 킬로와트당 처리량이 1.5~1.9배 높고 엔드투엔드 지연은 1.7~3.6배 낮았다(지연 격차의 최대치는 DeepSeek R1 670B 모델을 GB300 시스템과 비교했을 때 기록됐다). InferenceX는 실행 중 로그가 보이는 GitHub Actions 워크플로로 생성되는 공개 대시보드에 결과를 올리지만, Jalapeño 수치의 출처는 여전히 일부 불투명하다. SemiAnalysis는 실리콘의 존재를 확인했으나 검증의 수준은 열려 있다. 자사 엔지니어가 OpenAI 연구소에서 직접 워크로드를 돌렸다는 서술도 있고, 실행을 지켜봤을 뿐 수치는 회사가 제공한 것이라는 서술도 있다. 다만 두 가지에는 일치한다. 긴 컨텍스트의 멀티턴 에이전트 워크로드를 다루는 AgentX 스위트는 Jalapeño에서 실행되지 않았고, 제3자 하드웨어에서의 독립 재현도 없다.

짚어둘 것은 비교 대상이 서로 다른 전력 등급의 가속기라는 점이다. Jalapeño는 공칭 700 W로 동작하며(테스트에서 지속 소비는 550 W 미만), 기준이 된 NVIDIA 시스템은 1,200 W와 1,400 W다. OpenAI는 자사 모델을 설계에 활용해 단 9개월 만에 테이프아웃을 마쳤다고 밝혔지만 기술적 세부는 빈약하다. 공정 노드, 메모리 용량, 토큰당 비용은 공개되지 않았다. 로드맵은 2026년 말까지 소량, 2027년에 본격적인 배치를 예고하며 2세대는 이미 개발 중이다.

OpenAI가 이 결과를 — 하드웨어 책임자 리처드 호의 표현으로 “최신 기술 수준 대비 매우 유의미한 진전” 이라고 — 알리는 사이, NVIDIA는 7월에 끝난 2027 회계연도 2분기를 데이터센터 부문 매출 890억 달러, 전년 대비 117% 성장으로 마감했다. 젠슨 황 CEO는 AI가 “변곡점에 와 있다”며 토큰이 “생산적이고 수익성 있다”고 말했다. OpenAI는 NVIDIA와 다른 파트너의 가속기를 계속 쓰겠다고 거듭 밝히지만 메시지는 분명하다. 대규모 추론에서 자체 실리콘은 머지않아 전략적 지렛대가 될 수 있다.

가볍지 않은 세부가 하나 남는다. 공개된 벤치마크는 오픈 웨이트 워크로드(GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T)만 다루며 학습도, 독점 모델도 포함하지 않는다. 여기에 비교의 잣대가 Blackwell 세대라는 점도 더해야 한다. NVIDIA는 이미 후속 아키텍처 Rubin을 발표했다. 오늘 측정된 격차는 물러나는 하드웨어를 상대로 한 것이다. 주장된 우위는 특정 시나리오에 한정되며, 현재로선 OpenAI 연구소 밖에서 재현되지 않았다. 진짜 질문은 Jalapeño가 Blackwell보다 얼마나 효율적인가가 아니라, 그 효율이 공개되고 감사 가능하며 확장 가능한 사실이 될 것인지, 그리고 언제인지다.

— Olya