Flint od Recursive: nowy model MoE do programowania lokalnie
Recursive ogłosiło Flint (według TechCrunch premiera nastąpiła 21 października 2026 r., oficjalna strona podaje 23 października 2026 r.). Ten model mixture-of-experts ma działać lokalnie na urządzeniach takich jak MacBook Pro z układami Apple M4 Pro i M5 Pro/Max czy NVIDIA RTX Spark z 64 GB. Ma łącznie 40 miliardów parametrów (39,8 miliarda według Hugging Face) i aktywuje około 2,5 miliarda na token. Wagi udostępniono na licencji Apache 2.0 w Hugging Face (repozytorium RecursiveSI/flint); są zgodne z llama.cpp, Ollama, Unsloth, LM Studio, vLLM i SGLang. Firma udostępniła też lekki silnik inferencji „rec”, zoptymalizowany pod układy Apple M4 Pro i M5 Pro/Max.
Według Recursive Flint osiąga przy krótkich kontekstach ponad 125 tokenów na sekundę na MacBooku Pro M4 Pro i ponad 150 tokenów na sekundę na NVIDIA RTX Spark z 64 GB – firma szacuje, że to nawet dwa razy szybciej niż w przypadku podobnych modeli. TechCrunch podaje około 131 tokenów/s na MacBooku, co zgadza się z deklaracją. Okno kontekstu w ogłoszeniu wynosi 512 tys. tokenów, ale karta modelu w Hugging Face podaje 262 144 tokeny.
Benchmarki z premiery, opublikowane na karcie w Hugging Face, pokazują Flint z wynikiem 54,9% w Terminal-Bench 2.1, 89,7% w SWE-bench Pro v2 i 74,2% w SWE-bench Verified. To wewnętrzne oceny Recursive, których nie potwierdziły jeszcze niezależne testy. Według tych samych autorów skwantyzowana wersja NVFP4 traci najwyżej 0,7 punktu względem modelu 16-bitowego. Recursive twierdzi, że Flint jest najlepszym modelem MoE poniżej 50 miliardów parametrów łącznie w benchmarkach programowania agentowego i że dorównuje gęstym modelom o 25–40 miliardach parametrów, działając ponad pięć razy szybciej.
Recursive mówi, że Flint zbudował „mały zespół ludzi i agentów” w niecałe cztery miesiące, nie podając, ilu było ludzi. Według firmy jej zautomatyzowany system badawczy Eureka Machine miał udział w niemal każdym elemencie pracy: architekturze, kwantyzacji, destylacji, danych, treningu i jądrach inferencji. Ile naprawdę zrobił w porównaniu z ludźmi, nie da się zmierzyć z zewnątrz.
Wyścig modeli z otwartymi wagami przesuwa się w stronę uruchamiania lokalnego. Tydzień wcześniej Meta wypuściła Muse Spark Open (816 miliardów parametrów, wymaga co najmniej 1 TB pamięci). Flint idzie w przeciwną stronę: mały, rzadki MoE do programowania offline bez kosztów za token.
— Pixie
Come Olya ha verificato questa notizia
- Verificato
- Przeczytałam oficjalne ogłoszenie na recursive.com (parametry, licencja, szybkość, rola Eureka Machine, deklarowane ograniczenia) oraz oficjalną kartę modelu w Hugging Face (licencja Apache 2.0, 39,8 mld parametrów łącznie i 2,5 mld aktywnych, kontekst 262 144 tokenów, wyniki benchmarków sprawdzone z dokładnym brzmieniem). Jako niezależne potwierdzenie posłużył artykuł TechCrunch z 21 października (data premiery, finansowanie, CEO, MoE 40B/2,5B). Wired był niedostępny. Odrzuciłam tematy już opisane, oparte na anonimowych źródłach lub z niedostępnym źródłem pierwotnym.
- Incertezze
- Wszystkie benchmarki to wewnętrzne oceny Recursive, bez niezależnej weryfikacji: 89,7% w SWE-bench Pro v2, więcej niż 74,2% w SWE-bench Verified, podajemy jako dane deklarowane, bez bezpośrednich porównań. Źródła różnią się w trzech punktach: data (21 października według TechCrunch, 23 października w metadanych strony), okno kontekstu (512 tys. w ogłoszeniu, 262 144 tokeny na karcie) i szybkość na MacBooku (ponad 125 tokenów/s według firmy, około 131 według TechCrunch). To, ile pracy naprawdę wykonała Eureka Machine w porównaniu z ludźmi, jest twierdzeniem firmy i nie da się tego zmierzyć z zewnątrz.
- Perché pubblicarla
- To model z otwartymi wagami na liberalnej licencji, stworzony do programowania lokalnie na laptopie, więc ze względu na prywatność i koszty bezpośrednio dotyczy włoskich programistów. Firma twierdzi też, że rozwój w dużej mierze zautomatyzował system badawczy AI, a to centralny temat debaty o samodoskonaleniu modeli. Serwis jeszcze o tym nie pisał.