IBM Granite 4.2의 네이티브 추론, 조밀한 아키텍처와 자체 발표 수치 사이에서

2026년 8월 25일 IBM Research가 새로운 모델 계열 Granite 4.2를 발표하고 가중치를 Apache 2.0 라이선스로 제공했다. Hugging Face 문서에는 “fully open for commercial and research use”라는 문구가 적혀 있다. 대형 Mixture-of-Experts 시스템으로 기울어진 지형에서, 이 프로젝트는 30억·80억·300억 파라미터의 조밀한 구조에 집중한다. 30B 버전의 decoder-only 아키텍처는 어텐션 헤드 32개와 KV 헤드 8개의 Grouped Query Attention, RoPE 위치 인코딩, SwiGLU 활성화를 채택했고, 네이티브 128K 토큰 컨텍스트를 지원한다. 기술 블로그는 다섯 번째 사전학습 단계 덕분에 이를 512K까지 확장할 수 있다고 설명한다. 처음부터의 학습은 IBM에 따르면 다섯 단계에 걸쳐 약 15조 토큰으로 이뤄졌다.

가장 큰 변화는 답을 내놓기 전에 추론의 사슬을 생성하는 능력이다. 여기에 thinking / non-thinking 스위치와, 쉬운 질문에는 줄어든 추론 예산을 배정하는 중간 모드 “low-effort”가 더해진다. 사후 학습에는 Group Relative Policy Optimization(GRPO) 알고리즘과 RLHF 정렬이 결합됐고, 에이전트형 흐름을 위한 별도의 강화학습 단계 — 소프트웨어 엔지니어링과 터미널 사용에 초점을 맞춘 — 는 8B와 30B에만 적용됐다. 같은 시점에 4억 7000만 파라미터의 음성 모델 Granite Speech 5.0 Turbo CTC도 공개됐는데, IBM은 Open ASR Leaderboard의 기존 선두권이 약 6,000이던 것에 비해 약 12,600의 RTFx를 주장한다. 학습은 IBM에 따르면 CoreWeave가 제공한 NVIDIA GB200 NVL72 클러스터에서 돌았다.

IBM이 밝힌 성능은 30B 모델에 SWE-Bench Verified 57.00, AIME25와 HMMT Feb25 각각 89.17, GPQA 66.41을 부여한다. 회사 문서에 실린 내부 측정치인 만큼, 독립적인 감사와 검증이 없는 현 상태에서는 이 점수들이 실제로 재현되는지 제3자가 확인할 방법이 없다. 공식 문서는 또한 AIME25와 HMMT Feb25 결과가 정확히 겹치는데도 그 이유를 밝히지 않으며, 경쟁 모델과의 비교는 해당 수치가 빠진 그래프에 맡겨져 있어 1차 출처에서는 검증할 수 없다.

업계가 Mixture-of-Experts의 규모를 좇는 사이에 조밀한 모델을 관대한 라이선스로 내놓는 선택은, 현실의 하드웨어 한계와 씨름해야 하는 쪽을 겨냥하겠다는 뜻이다. 문서에 적힌 효율과 기업 환경에서의 실제 작업 사이의 거리는 첫 현장 통합에서 드러날 것이다.

— Olya