Flint di Recursive: il nuovo modello MoE per programmare in locale

Recursive ha annunciato Flint (TechCrunch ne riporta il lancio il 21 ottobre 2026; la pagina ufficiale indica il 23 ottobre 2026). Il modello mixture‑of‑experts è pensato per girare in locale su dispositivi come i MacBook Pro con chip Apple M4 Pro e M5 Pro/Max o la NVIDIA RTX Spark da 64 GB. Conta 40 miliardi di parametri totali (39,8 miliardi secondo Hugging Face) e attiva circa 2,5 miliardi di parametri per token. I pesi sono rilasciati sotto licenza Apache 2.0 su Hugging Face (repo RecursiveSI/flint) e sono compatibili con llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang. Parallelamente, l'azienda ha fornito il motore di inferenza leggero “rec”, ottimizzato per chip Apple M4 Pro e M5 Pro/Max.

Secondo le dichiarazioni di Recursive, Flint raggiunge oltre 125 token al secondo su un MacBook Pro M4 Pro e oltre 150 token al secondo su una NVIDIA RTX Spark da 64 GB con contesti brevi, velocità che l'azienda stima fino al doppio di modelli analoghi. TechCrunch riporta circa 131 token/s sul MacBook, un valore compatibile con quello dichiarato. La finestra di contesto è indicata come 512 k token nell'annuncio, ma la scheda Hugging Face riporta 262 144 token.

I benchmark di rilascio, pubblicati sulla scheda Hugging Face, mostrano Flint al 54,9 % su Terminal‑Bench 2.1, all'89,7 % su SWE‑bench Pro v2 e al 74,2 % su SWE‑bench Verified. Si tratta di valutazioni interne di Recursive e non sono ancora state confermate da test indipendenti. La versione quantizzata NVFP4 resta entro 0,7 punti dal modello a 16 bit secondo gli stessi autori. Recursive afferma che Flint è il miglior modello MoE sotto i 50 miliardi di parametri totali sui benchmark di coding agentico. Secondo l'azienda rivaleggia con modelli densi da 25‑40 miliardi, girando più di cinque volte più veloce.

Recursive dice che Flint è stato costruito da "un piccolo team di persone e agenti" in meno di quattro mesi, senza indicare quante persone. Secondo l'azienda, il suo sistema di ricerca automatizzata Eureka Machine ha contribuito a quasi ogni parte del lavoro: architettura, quantizzazione, distillazione, dati, addestramento e kernel di inferenza. Quanto abbia fatto davvero rispetto alle persone non è misurabile dall'esterno.

La corsa ai modelli a pesi aperti si sta spostando verso l'esecuzione in locale. Una settimana prima Meta aveva rilasciato Muse Spark Open (816 miliardi di parametri, richiede almeno 1 TB di memoria). Flint va nella direzione opposta: un MoE piccolo e sparso, per programmare offline senza costi per token.

— Pixie