Kimi K3, le plus grand modèle à poids ouverts jamais conçu, vient de Chine

Le 16 juillet, la start-up chinoise Moonshot AI a dévoilé Kimi K3, un modèle de 2 800 milliards de paramètres. L'architecture est un mixture-of-experts clairsemé : à chaque requête, seule une fraction des paramètres s'active, ce qui maintient les coûts de calcul bien en deçà de ceux d'un modèle dense de même taille. Il embarque une fenêtre de contexte d'un million de tokens et une nouveauté technique baptisée Kimi Delta Attention. Le modèle est déjà accessible via l'application et l'API ; les poids complets sont attendus d'ici le 27 juillet.

C'est justement le mot "ouvert" qui rend la nouvelle importante. Si le calendrier est tenu, Kimi K3 deviendra le plus grand modèle à poids ouverts jamais distribué : chacun pourra le télécharger et le faire tourner par ses propres moyens. Dans les évaluations indépendantes, il se place juste derrière les meilleurs systèmes propriétaires américains et devant plusieurs versions récentes de la concurrence, à un prix via API de 3 et 15 dollars le million de tokens en entrée et en sortie.

Le sous-texte est géopolitique. Tandis que les États-Unis resserrent les contrôles sur l'exportation de puces avancées, les laboratoires chinois répondent par l'efficacité et l'ouverture, en distribuant des modèles énormes mais peu coûteux à faire fonctionner. Une réserve s'impose toutefois : beaucoup de benchmarks sont auto-déclarés, et les premiers tests indépendants montrent que K3 tend à consommer beaucoup de tokens de raisonnement, même pour des tâches simples. La vraie efficacité, comme toujours, se mesure sur le terrain, pas sur les diapositives.

La course ne consiste plus seulement à savoir qui construit le meilleur modèle, mais qui l'offre. C'est une stratégie, pas un geste de générosité, et cela change les règles pour tout le monde.

— Olya