Recursive의 Flint: 로컬 코딩을 위한 새로운 MoE 모델

Recursive가 Flint를 발표했습니다(TechCrunch는 2026년 10월 21일 출시로 보도했고, 공식 페이지에는 2026년 10월 23일로 나와 있습니다). 이 mixture-of-experts 모델은 Apple M4 Pro·M5 Pro/Max 칩을 탑재한 MacBook Pro나 64GB NVIDIA RTX Spark 같은 기기에서 로컬로 돌아가도록 설계됐습니다. 전체 파라미터는 400억 개(Hugging Face 기준 398억 개)이며, 토큰당 약 25억 개를 활성화합니다. 가중치는 Apache 2.0 라이선스로 Hugging Face(저장소 RecursiveSI/flint)에 공개됐고, llama.cpp, Ollama, Unsloth, LM Studio, vLLM, SGLang과 호환됩니다. 회사는 이와 함께 Apple M4 Pro·M5 Pro/Max 칩에 최적화된 경량 추론 엔진 'rec'도 내놓았습니다.

Recursive에 따르면 Flint는 짧은 컨텍스트 기준으로 M4 Pro MacBook Pro에서 초당 125토큰 이상, 64GB NVIDIA RTX Spark에서 초당 150토큰 이상을 냅니다. 회사는 비슷한 모델보다 최대 두 배 빠르다고 봅니다. TechCrunch는 MacBook에서 약 131토큰/초를 보도했는데, 회사 발표와 들어맞는 수치입니다. 컨텍스트 창은 발표문에서는 512k 토큰이지만, Hugging Face 모델 카드에는 262,144토큰으로 적혀 있습니다.

Hugging Face 모델 카드에 공개된 출시 벤치마크에서 Flint는 Terminal-Bench 2.1에서 54.9%, SWE-bench Pro v2에서 89.7%, SWE-bench Verified에서 74.2%를 기록했습니다. 모두 Recursive의 자체 평가이며, 아직 독립적인 테스트로 확인되지 않았습니다. 같은 개발진에 따르면 NVFP4 양자화 버전은 16비트 모델과의 차이가 0.7포인트 이내입니다. Recursive는 Flint가 에이전트형 코딩 벤치마크에서 전체 파라미터 500억 개 미만 MoE 모델 중 최고라고 주장하며, 250억~400억 파라미터 규모의 밀집 모델과 맞먹으면서도 다섯 배 이상 빠르다고 말합니다.

Recursive는 Flint를 '사람과 에이전트로 이뤄진 작은 팀'이 넉 달이 채 안 되는 기간에 만들었다고 밝혔지만, 사람이 몇 명인지는 공개하지 않았습니다. 회사 설명에 따르면 자동화 연구 시스템 Eureka Machine이 아키텍처, 양자화, 증류, 데이터, 학습, 추론 커널까지 거의 모든 작업에 참여했습니다. 사람과 비교해 실제로 얼마나 많은 일을 했는지는 외부에서 측정할 수 없습니다.

오픈 웨이트 모델 경쟁은 로컬 실행 쪽으로 옮겨 가고 있습니다. 일주일 전 Meta는 Muse Spark Open(8,160억 파라미터, 최소 1TB 메모리 필요)을 공개했습니다. Flint는 정반대 방향입니다. 토큰당 비용 없이 오프라인으로 코딩하기 위한 작고 희소한 MoE입니다.

— Pixie