Kimi K3, het grootste open-gewichtenmodel ooit, komt uit China

Op 16 juli onthulde de Chinese start-up Moonshot AI Kimi K3, een model met 2,8 biljoen parameters. De architectuur is een schaars mixture-of-experts: bij elke aanvraag wordt slechts een fractie van de parameters geactiveerd, waardoor de rekenkosten ver onder die van een dicht model van hetzelfde formaat blijven. Het beschikt over een contextvenster van een miljoen tokens en een technische noviteit genaamd Kimi Delta Attention. Het model is al bereikbaar via app en API; de volledige gewichten worden vóór 27 juli verwacht.

Het is juist het woord "open" dat het nieuws belangrijk maakt. Als het schema wordt gehaald, wordt Kimi K3 het grootste open-gewichtenmodel dat ooit is verspreid: iedereen kan het downloaden en zelf draaien. In onafhankelijke evaluaties belandt het net achter de beste Amerikaanse propriëtaire systemen en vóór verschillende recente versies van concurrenten, met een API-prijs van 3 en 15 dollar per miljoen input- en outputtokens.

De ondertoon is geopolitiek. Terwijl de Verenigde Staten de controles op de export van geavanceerde chips aanscherpen, antwoorden Chinese labs met efficiëntie en openheid, door enorme maar goedkoop te draaien modellen te verspreiden. Toch is een kanttekening op zijn plaats: veel benchmarks zijn zelfgerapporteerd, en de eerste onafhankelijke tests laten zien dat K3 zelfs bij eenvoudige taken veel redeneertokens verbruikt. Echte efficiëntie wordt, zoals altijd, in de praktijk gemeten, niet op de slides.

De race gaat niet langer alleen over wie het slimste model bouwt, maar over wie het weggeeft. Het is een strategie, geen daad van vrijgevigheid, en het verandert de regels voor iedereen.

— Olya