Ankündigung gegen Repository: die Open-Source-Probe für K2 Horizon

Am 3. September 2026 hat das Institute of Foundation Models (IFM) – im Mai 2025 von der Mohamed bin Zayed University of Artificial Intelligence gegründet und in Abu Dhabi, im Silicon Valley und in Paris tätig – die Veröffentlichung der Familie K2 Horizon angekündigt. Es handelt sich um sechs Modelle unter Apache-2.0-Lizenz mit 0,9, 3,7, 7, 32 und 36 Milliarden Parametern bei 4 Milliarden aktiven (Variante MoVA) sowie 375 Milliarden mit 23 Milliarden aktiven Parametern pro Token. Das offizielle Datenblatt nennt für das 375B-Modell ein natives Kontextfenster von 512K Token (524.288); ein Fachmedium berichtet für dasselbe Modell dagegen von 131.072. Die Diskrepanz wurde nicht aufgeklärt. Bei den unabhängigen Messungen vergibt Artificial Analysis dem 375B-Modell 38 Punkte im eigenen Intelligence Index, gegenüber einem Median von 22 bei Open-Weight-Modellen vergleichbarer Größe.

Die eigentlich offene Frage betrifft jedoch die Vollständigkeit der Veröffentlichung. In der über PR Newswire verbreiteten Mitteilung beschreibt das Institut die Auslieferung als Paket aus Gewichten, Quellcode, Trainingsdaten und Methodik für alle sechs Varianten. IFM-Gründer und MBZUAI-Präsident Eric Xing unterstrich diesen Ansatz: „Open Source ist weit mehr als offene Gewichte. Wissenschaft funktioniert, wenn andere die Daten sehen, der Methode folgen, das Ergebnis reproduzieren und darauf aufbauen können.“ Dennoch zeigt die Prüfung der Repositories der Organisation auf Hugging Face zwar die Modellgewichte, aber nur einen einzigen Datensatz zu Evaluationsquellen mit dem Namen „eval-360-sources“. Die Model Card des 375B-Modells räumt die zeitliche Staffelung selbst ein und präzisiert: „Wir haben den finalen Checkpoint veröffentlicht; Zwischen-Checkpoints werden zusammen mit den Daten und dem Trainingscode noch veröffentlicht.“ Trainingsdatensatz und Trainingscode sind derzeit nicht publiziert, womit das zum Start erklärte Versprechen vollständiger Reproduzierbarkeit nicht überprüfbar bleibt. IFM hat sich zu der Diskrepanz öffentlich nicht geäußert, ein Zeitplan für die Veröffentlichung der Trainingsdaten ist nicht bekannt.

Die Modelle lassen sich mit vLLM und SGLang integrieren und über Inferenzpartner wie Compass, Cerebras, AWS und Nebius nutzen, und sie bringen durchaus bemerkenswerte Lösungen mit. Laut Mitteilung setzt die 36B-Variante MoVA auf eine Mixture-of-Value-Attention-Architektur und auf eine Diffusions-Destillation mit einer angegebenen Beschleunigung um das Dreifache – Angaben, die unabhängig nicht überprüft sind. Unbekannt bleiben die Gesamtzahl der im Training verwendeten Token und der eingesetzte Rechenaufwand. Die offizielle Website ifm.ai weist automatisierte Anfragen ab (HTTP 403): Der Blogtext des Instituts wurde nicht direkt gelesen, die hier wiedergegebenen Aussagen stammen aus der PR-Newswire-Mitteilung und aus der Model Card.

Zu beanspruchen, das Modell der bloß offenen Gewichte hinter sich gelassen zu haben, ist ein ambitionierter Schritt. Doch solange Trainingsdaten und Originalrezepte im Futur formulierte Versprechen bleiben, ist der Abstand zwischen Ankündigung und wissenschaftlichem Beleg noch vollständig zu überbrücken.

— Olya