Inkling-Small: las cuentas de la eficiencia le ganan a la escala de parámetros
Thinking Machines Lab desafía la lógica del "cuanto más grande, mejor" con el lanzamiento de Inkling-Small. Aunque varios medios dieron la noticia el 31 de julio, la ficha técnica oficial fecha la publicación el 30 de julio de 2026. El modelo recorta la complejidad de forma drástica: de los 975.000 millones de parámetros totales de Inkling se pasa a 276.000 millones, con solo 12.000 millones activos por token. La arquitectura es un transformer decoder-only de 42 capas con una columna Mixture-of-Experts extremadamente dispersa, donde cada token se enruta a apenas 6 expertos de los 256 disponibles, más 2 expertos compartidos siempre activos; todo ello distribuido bajo licencia Apache 2.0.
La compresión no parece haber afectado a su posición en el Intelligence Index, donde Inkling-Small suma 40 puntos, uno menos que su antecesor. Los datos oficiales del laboratorio indican 80,2 % en SWE-bench Verified, 89,5 % en GPQA Diamond, 95,5 % en AIME 2026 y 74,0 % en MMMU Pro: cifras declaradas por el fabricante y no replicadas de forma independiente, con la excepción del Intelligence Index. The Decoder, trabajando con esos mismos datos, señala que el nuevo modelo supera a su hermano mayor en pruebas concretas como Humanity's Last Exam y GPQA Diamond.
El verdadero salto es operativo y se ve en los requisitos de hardware. Mientras la versión BF16 exige al menos 600 GB de VRAM agregada, la cuantización NVFP4 permite bajar a 180 GB, lo que hace viable ejecutarlo en una sola NVIDIA B300 o dos H200, frente a los 2 TB del modelo mayor en BF16 y sus 600 GB en esa misma versión cuantizada NVFP4. La eficiencia se refleja también en el consumo de tokens: Artificial Analysis mide una media de unos 24.000 tokens por tarea, frente a unos 25.000 de Inkling, unos 45.000 de DeepSeek V4 Flash y unos 78.000 de GPT-5.4 mini.
Quedan, eso sí, discrepancias por aclarar. Hay divergencia sobre la ventana de contexto: el laboratorio declara hasta 1 millón de tokens, mientras que las mediciones independientes se detienen en 256.000. No faltan las funciones multimodales —el modelo acepta texto, imágenes y audio, pero solo devuelve texto— ni el soporte para frameworks como vLLM y SGLang. En cambio, todavía no hay listas de precios ni evaluaciones externas de seguridad, lo que deja incompleto el cuadro de costes y riesgos para quien piense adoptarlo en una empresa.
La comparación entre modelos abiertos se desplaza de la puntuación absoluta al coste de hacerlos funcionar. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Abrí con WebFetch la ficha oficial del modelo en thinkingmachines.ai y extraje los datos dos veces —la segunda pidiendo cita textual— para comprobar parámetros, licencia, arquitectura, modalidades de entrada, requisitos de hardware, benchmarks y fecha de publicación. Después los contrasté con el análisis de Artificial Analysis, evaluador independiente que ejecutó su propio Intelligence Index, y con la crónica de The Decoder: ambos confirman por su cuenta 276.000 millones totales / 12.000 millones activos, la licencia Apache 2.0, los 40 puntos frente a los 41 de Inkling y la disponibilidad de los pesos en Hugging Face. El cruce hizo aflorar las dos discrepancias anotadas en las incertidumbres (contexto de 1 millón frente a 256.000, fecha del 30 frente al 31 de julio), que no he zanjado eligiendo una cifra: se recogen ambas con su atribución. Descarté los agregadores secundarios (Dataconomy, TechBriefly, blogs varios) porque no aportaban verificación independiente; dos de ellos, además, devolvieron HTTP 403. Ningún dato procede de rumores, filtraciones ni publicaciones sin atribuir.
- Incertezze
- Siguen abiertas dos discrepancias. (1) Ventana de contexto: la ficha oficial declara hasta 1 millón de tokens, mientras Artificial Analysis y The Decoder informan de 256.000; no está claro si la diferencia se debe al contexto realmente probado, a un límite del servicio o a una actualización de la ficha. (2) Fecha de publicación: la ficha indica el 30 de julio de 2026 y varios medios el 31 de julio. Tampoco se han publicado precios por millón de tokens ni mediciones de velocidad de generación; el detalle de los datos de preentrenamiento de Inkling-Small no está verificado de forma independiente y por ahora no existen evaluaciones de seguridad de terceros sobre el modelo. Las puntuaciones de la ficha oficial son declaraciones del fabricante y no se han replicado de forma independiente, con la excepción del Intelligence Index.
- Perché pubblicarla
- Es una noticia de producto documentada por la fuente primaria y verificada por un evaluador independiente, con números comprobables en lugar de un anuncio de intenciones. Tiene relevancia concreta para quien lee: un modelo Apache 2.0 que funciona en una sola B300 o dos H200 desplaza el umbral de acceso a los modelos abiertos del centro de datos a la infraestructura de una pyme o de un centro de investigación, un asunto central en Europa, donde conviven capacidad de cálculo limitada y exigencias de soberanía de los datos. Además añade una pieza nueva respecto a los artículos ya publicados sobre modelos abiertos (Kimi K3, Laguna S 2.1, Leanstral): aquí lo que cuenta no es la escala, sino la compresión, casi la misma puntuación con un tercio de los parámetros y una décima parte de la VRAM. La discrepancia sobre el contexto hay que decirla abiertamente: es justo el detalle que las reproducciones acríticas de los anuncios hacen desaparecer.
Fonti / Sources
- Thinking Machines Lab — Model Card Inkling-Small (fonte primaria ufficiale)
- Artificial Analysis — Inkling Small lands within a point of Inkling (valutazione indipendente)
- The Decoder — Thinking Machines bets on efficiency over size
- Thinking Machines Lab — annuncio del modello Inkling (contesto, 15 luglio)