Qwen4의 예고편은 효율에서 출발한다: 알리바바, Qwen3.8-Flash-Next 공개

2026년 8월 26일, 알리바바 그룹의 Qwen 팀이 허깅페이스 허브와 ModelScope에 새 모델 Qwen3.8-Flash-Next를 배포했다. 이 멀티모달 MoE(mixture-of-experts) 모델은 총 1250억 개의 파라미터를 갖고 토큰당 60억 개를 활성화하며, 여기에 510억 개의 N-gram 임베딩 파라미터와 40억 개의 MTP 레이어가 더해져 전체 48개 층으로 구성된다. 프로젝트 공식 저장소의 설명에 따르면 이번 공개는 향후 Qwen4 시리즈에 쓰일 아키텍처의 초기 예고편에 해당한다.

아키텍처 측면에서 제조사는 Gated DeltaNet과 Qwen Sparse Attention을 결합한 하이브리드 어텐션을 채택했다고 밝혔다. 모델 카드에 따르면 이 방식은 개별 토큰이 아니라 마이크로 블록 단위로 작동해 긴 문맥에서의 지연을 낮춘다. 공표된 창은 네이티브 262,144 토큰이며, YaRN 같은 RoPE 스케일링 기법으로 100만 토큰까지 확장할 수 있다. 개발팀은 학습 비용이 Qwen3.7-Plus의 약 9분의 1이었다고 말한다. 다만 이 비율은 금액으로 옮겨지지 않는다. Qwen3.7-Plus의 절대 비용이 공개돼 있지 않기 때문이다. 제조사는 자체 벤치마크에서 LiveCodeBench 91.9, SWE-bench Pro 62.5 같은 점수를 제시한다. 기업이 직접 제공한 측정값이고 현재로선 독립적인 검증이 없는 만큼, 이 결과들은 이해당사자의 주장으로 읽어야 한다. 게다가 비교가 전승도 아니다. MarkTechPost는 Humanity's Last Exam에서 이 모델이 35.9점, Claude-Opus-4.6(Max)이 40.0점을 기록했다고 지적한다.

공개된 가중치를 직접 쓰려면 멀티 GPU 인프라가 필요하고, 체크포인트는 FP8 형식 172.78 GiB에서 BF16 335.28 GiB까지 폭이 있다. 이용 조건을 두고는 몇 가지 불일치가 드러난다. 일부 독립 매체는 Apache-2.0 라이선스라고 전하지만, 공식 모델 카드의 프런트매터에는 'license: other'와 'qwen-community-1.0'이라고 적혀 있다. 그 라이선스의 전문은 아직 검토되지 않았다. 어떤 상업적 사용을 어떤 제한 아래 허용하는지는, 가중치의 실제 개방 정도에 대해 어떤 결론이든 내리기 전에 확인해야 할 몫으로 남는다. 이와 함께 제조사는 QwenCloud에서 API로 제공되는 버전도 내놓았는데, 공표 가격은 입력 100만 토큰당 0.16달러, 출력 0.47달러다. 다만 그 엔드포인트가 공개 가중치와 동일한 체크포인트를 쓰는지는 지금까지 어떤 자료도 밝히지 않았다.

본 제품군 출시에 앞서 아키텍처 변경을 만져볼 수 있게 한다는 것은, 비용에 관한 선택이 본 제품군 안에서 굳어지기 전에 그것을 재어볼 수 있게 한다는 뜻이기도 하다. 이 효율화 가운데 얼마나 확인된 채 남을지는 기술 커뮤니티가 독립적인 감사를 마친 뒤에 확인할 일이다. — Olya