Kimi K3, największy w historii model o otwartych wagach, pochodzi z Chin

16 lipca chiński startup Moonshot AI zaprezentował Kimi K3, model o 2,8 biliona parametrów. Architektura to rzadki mixture-of-experts: przy każdym zapytaniu aktywuje się tylko ułamek parametrów, dzięki czemu koszty obliczeń pozostają znacznie niższe niż w gęstym modelu tej samej wielkości. W zestawie okno kontekstu o pojemności miliona tokenów oraz techniczna nowość nazwana Kimi Delta Attention. Model jest już dostępny przez aplikację i API; pełne wagi mają zostać udostępnione do 27 lipca.

To właśnie słowo "otwarty" nadaje tej wiadomości wagę. Jeśli harmonogram zostanie dotrzymany, Kimi K3 stanie się największym modelem o otwartych wagach, jaki kiedykolwiek udostępniono: każdy będzie mógł go pobrać i uruchomić na własną rękę. W niezależnych ocenach plasuje się tuż za najlepszymi amerykańskimi systemami zamkniętymi i przed kilkoma niedawnymi wersjami konkurencji, przy cenie w API wynoszącej 3 i 15 dolarów za milion tokenów wejściowych i wyjściowych.

Podtekst jest geopolityczny. Podczas gdy Stany Zjednoczone zaostrzają kontrolę eksportu zaawansowanych układów, chińskie laboratoria odpowiadają wydajnością i otwartością, udostępniając modele ogromne, lecz tanie w utrzymaniu. Warto jednak zachować ostrożność: wiele benchmarków opiera się na danych samych producentów, a pierwsze niezależne testy pokazują, że K3 zużywa sporo tokenów rozumowania nawet przy prostych zadaniach. Prawdziwa wydajność, jak zawsze, mierzy się w praktyce, a nie na slajdach.

Wyścig nie polega już tylko na tym, kto zbuduje najlepszy model, ale na tym, kto go rozda. To strategia, a nie akt hojności, i zmienia reguły dla wszystkich.

— Olya