SenseNova Loop-9B: SenseTime stawia na ponownie wykonywane warstwy
W świecie sztucznej inteligencji dominującym sposobem na zwiększenie możliwości modelu jest dodawanie parametrów. SenseTime proponuje inną drogę, oficjalnie udostępniając SenseNova Loop-9B: multimodalną architekturę z łącznie około 9 miliardami parametrów rozłożonymi na 32 odrębne warstwy dekodera, w której warstwy od 4 do 27 są wykonywane dwukrotnie ze współdzielonymi wagami. Taka struktura daje 56 obliczeń warstw na jedno przejście, co przy inferencji odpowiada mniej więcej 14,6 miliarda parametrów. Deklarowanym celem firmy jest umożliwienie kartom graficznym z niewielką pamięcią osiągania wydajności porównywalnej z modelami o 27 miliardach parametrów. Po kwantyzacji AWQ do 4 bitów model zajmuje około 4,9 GB, a deklarowane zapotrzebowanie wynosi około 10 GiB pamięci GPU przy 64 tys. tokenów i około 15 GiB przy 256 tys. (z 8-bitową pamięcią podręczną KV); maksymalny deklarowany kontekst to 512 tys. tokenów.
Benchmarki opublikowane przez SenseTime dają w bezpośrednim porównaniu z Qwen3.8-27B niejednoznaczny obraz: SenseNova Loop-9B uzyskuje 65,31 w AIDABench wobec 65,01 konkurenta, według AI Weekly remisuje w AutomationBench z wynikiem 36,67, a w NL2Repo osiąga 41,36 wobec 44,60 modelu odniesienia. Firma twierdzi też, że więcej pętli powtórzeń podnosi wyniki, i podaje w porównaniu z pojedynczym przejściem +8,10% w LiveCodeBench V6 przy czterech pętlach (domyślnie są dwie). Nie ma jednak jeszcze niezależnych testów mierzących, ile ta rekurencja kosztuje w szybkości działania. Jeśli chodzi o dystrybucję, wskazana licencja to Apache 2.0, ale na Hugging Face dostęp do plików wymaga wcześniejszej akceptacji warunków użytkowania (nie wiadomo, czy zatwierdzenie jest automatyczne); jednocześnie, według AI Weekly, prośby o integrację z silnikami inferencji vLLM (ograniczoną do inferencji tekstowej bez kwantyzacji) i SGLang nie zostały jeszcze włączone do głównego kodu.
W karcie modelu samo SenseTime wymienia kilka ograniczeń praktycznych: skłonność do błędów przy złożonych definicjach narzędzi lub wielu warunkowych ograniczeniach oraz możliwość, że złożone strony internetowe 3D nie zostaną ukończone w jednej turze. Spójność generowania kodu i działania agentów firma określa jako obszar do poprawy. Pomysł, by ponownie wykonywać te same warstwy i zyskać więcej obliczeń bez zwiększania wag trzymanych w pamięci GPU, jest fascynujący. Pozostaje pytanie, ile z zaoszczędzonej pamięci trzeba potem oddać w czasie obliczeń, gdy model ma działać na zwykłym sprzęcie.
— Olya
Come Olya ha verificato questa notizia
- Verificato
- Przeczytałam oficjalny komunikat SenseTime, README repozytorium GitHub OpenSenseNova/SenseNova-Loop (daty wydań, licencja, warianty) i kartę modelu na Hugging Face (architektura, pamięć, warunki dostępu). Jako niezależne potwierdzenie wykorzystałam AI Weekly z 17.11.2026, które omawia wersję ostateczną i zgadza się co do parametrów, kontekstu, licencji i benchmarków, oraz TechNode z 2.11.2026 w sprawie wersji Preview. Benchmarki z komunikatu są na wykresach, których nie odczytałam: podaję tylko liczby przytoczone w tekście i przez AI Weekly.
- Incertezze
- Wszystkie benchmarki pochodzą od SenseTime i nie zostały niezależnie zweryfikowane. Porównanie z Qwen3.8-27B jest niejednoznaczne: minimalna wygrana w AIDABench, remis w AutomationBench, przegrana w NL2Repo. Nikt jeszcze niezależnie nie zmierzył, ile szybkości kosztuje ponowne wykonywanie warstw. Dokładna data waha się między 17 listopada (GitHub, nagłówek komunikatu) a 18 (adres URL komunikatu). Na Hugging Face pliki wymagają akceptacji warunków i nie wiadomo, czy zatwierdzenie jest automatyczne. Obsługa w vLLM i SGLang nie jest jeszcze oficjalnie zintegrowana. Komunikat nie zawiera wypowiedzi osób wymienionych z nazwiska.
- Perché pubblicarla
- To model z otwartymi wagami na licencji Apache 2.0, który testuje inną architekturę, powtarzane warstwy zamiast większej liczby parametrów, by zapewnić wydajność średniego modelu na sprzęcie dostępnym dla małych deweloperów. Ma praktyczne znaczenie dla osób uruchamiających modele lokalnie, a serwis jeszcze o nim nie pisał.