Mistral AI가 내놓은 '1조'라는 잣대

1조 파라미터의 문턱을 넘는 일은 더 이상 미국 연구소나 중국 대기업만의 전유물이 아니다. '르 청크(Le Chonk)'라는 별명이 붙은 Mistral Large 4를 프리뷰로 공개하면서, 이 프랑스 기업은 지금까지 가장 큰 모델을 내놓았다. 총 1.05조 개의 파라미터를 가진 멀티모달 Mixture-of-Experts 아키텍처다. Mistral AI의 공식 문서에 따르면 이 모델은 토큰당 520억 개를 활성화하며(일부 매체는 490억 개로 보도), 16억 파라미터 규모의 비전 인코더와 100만 토큰의 컨텍스트 윈도를 갖췄다. 이 정도 규모의 유럽 아키텍처가 오픈 웨이트 약속과 함께 발표된 것은 처음이다. The Next Web에 따르면 Mistral이 9월에 마무리한 30억 유로 규모의 투자 유치 이후 처음 나온 모델이기도 하다.

다만 현재는 회사의 유럽 데이터센터에서 운영되는 Mistral Studio의 퍼블릭 프리뷰 API로만 이용할 수 있다. Mistral은 공식 블로그에 "We will release the weights by the end of the month"라고 적었고, The Next Web은 예정일로 10월 27일을 제시했다. 반면 라이선스는 밝혀지지 않아, 전작 Mistral Large 3의 Apache 2.0 방식이 유지될지는 알 수 없다. 가격 면에서도 입력 100만 토큰당 1.36달러, 출력 4.18달러라는 공식 가격에 현재 50% 할인이 적용되고 있지만, 할인이 언제 끝나는지는 공개되지 않았다.

회사의 메시지는 사이버보안과 프로그래밍 능력에 크게 집중돼 있다. 강화학습 단계가 아직 진행 중이어서 예비적이며 바뀔 수 있다고 회사 스스로 밝힌 Mistral의 자료에 따르면, 취약점 재현 및 패치 테스트에서 Large 4는 82%를 기록했고, Claude Opus 5.5와 GPT-6 Astra는 작업을 거부해 0점에 가까운 점수를 받았다고 한다. 이는 회사가 제시한 수치로, 제3자가 검증하지 않았다. Surge AI가 진행한 프로그래밍 블라인드 평가에서 Mistral은 Large 4가 5점 만점에 3.74점으로 다섯 모델 중 2위, Claude Opus 5(4.22점)에 이어 두 번째라고 밝혔다. Mistral AI의 공동 창업자이자 최고과학책임자는 "cyber defense capabilities will enable enterprises and governments to defend themselves"라고 말하며, 전문가와 당국을 위한 완화된 모더레이션 버전을 예고했다. 그러나 이 수치들에 대한 외부의 독립적 검증이 없는 만큼, 늘 그렇듯 방법론적 신중함이 필요하다.

Mistral에 따르면 이 모델은 자사 유럽 데이터센터의 NVIDIA Grace Blackwell GPU 3,800개로 처음부터 학습됐다. 반면 The Next Web은 약 4,000개의 GPU, 약 두 달의 학습 기간, 약 10메가와트의 전력을 언급한다. 이 인프라는 160개 이상의 언어로 학습된 모델의 현지화와, 향후 유럽연합 경계 안에서 전적으로 운영되는 배포 옵션을 뒷받침한다. 이번 전환점을 발표하며 Mistral AI의 CEO는 유럽 대륙의 전략적 입지를 강조했다. "So the narrative that Europe cannot compete is something that is not true".

기술 주권은 공개를 약속한 웨이트가 얼마나 투명한지로도 가늠된다. 많은 것이 아직 열려 있는 두 가지에 달려 있다. 웨이트가 실제로 공개되는지, 그리고 아직 발표되지 않은 라이선스가 무엇인지다. 그때가 돼야 유럽의 첫 '1조'가 얼마나 진정으로 열려 있는지 잴 수 있을 것이다. — Olya