AIREITERZwischen 0.9B und 375B deckt K2 Horizon sechs sehr unterschiedliche Modelle ab. Entscheidend ist nicht die höchste Parameterzahl, sondern was Speicher, Runtime und konkreter Workload tatsächlich zulassen.
Die schnelle Empfehlung: nach Einsatzgebiet entscheiden
IFM hat am 3. September 2026 sechs K2 Horizon-Modelle veröffentlicht, wie im offiziellen Launch-Beitrag beschrieben. Sie richten sich an verschiedene Deployment-Szenarien. Der beworbene 512K-Kontext bedeutet dabei nicht automatisch, dass ein 512K-Produktiv-Workload wirtschaftlich betrieben werden kann.
| Ihr Einsatzgebiet | Bester Einstieg | Planung für Rohgewichte* | Wichtigster Hinweis |
|---|---|---|---|
| Stark eingeschränkte Edge- oder Embedded-Experimente | K2 Horizon 0.9B | ~1.8GB BF16; ~0.45GB theoretisch bei 4 Bit | Aus der Modellgröße allein lässt sich keine reale Gerätegeschwindigkeit ableiten |
| Schlanker lokaler Assistent oder Fine-Tuning | K2 Horizon 3.7B | ~7.4GB BF16; ~1.85GB theoretisch bei 4 Bit | Die Erholung nach schwierigen mehrstufigen Agentenfehlern bleibt eine Schwäche kleiner Modelle |
| Lokaler Coding-Agent oder erster dokumentierter Test | K2 Horizon 7B | ~14–18GB BF16; ~3.5–4.5GB theoretisch bei 4 Bit | Die Model Card empfiehlt hohen Reasoning-Aufwand und mindestens 32,768 Output-Tokens |
| Sparsames lokales oder Server-Deployment | K2 Horizon MoVA 36B-A4B | ~74.9GB offizielles BF16-GGUF | Die Kennzeichnung mit 4B aktiven Parametern macht daraus kein 4B-Speichermodell |
| Dichter Vergleichsmaßstab oder Forschungs-Baseline | K2 Horizon 32B | ~64GB BF16-Schätzung | Das aktuelle GGUF-Artefakt trägt die Kennzeichnung Stage1 |
| Reasoning und Agenten im Enterprise-Maßstab | K2 Horizon 375B-A23B | ~750GB BF16-Schätzung; ~187.5GB theoretisch bei 4 Bit | Bis gehostete Preise und Performance dokumentiert sind, ist es ein Cluster-Deployment |
Dies sind Schätzungen der Rohgewichte vor Quantisierungs-Overhead, Runtime-Speicher, Tokenizer-Dateien und KV-Cache. Sie entsprechen weder Mindestanforderungen an RAM noch an VRAM.
Für den ersten lokalen Versuch ist K2 Horizon 7B die beste Wahl. Dafür gibt es die klarsten öffentlichen Serving-Anleitungen und eine brauchbare Benchmark Card. Zu 36B-A4B sollten Sie erst wechseln, wenn Backend, Quantisierung und Speicher zum Workload passen. 375B-A23B bleibt ein Multi-Accelerator-Deployment, bis ein Anbieter konkrete Preise und Leistungsdaten veröffentlicht.
Was IFM am 3. September 2026 veröffentlicht hat
IFM hat Modellgewichte, Code, Trainingskonfigurationen, Zwischen-Checkpoints und Evaluierungsmaterial veröffentlicht. Je nach Weitergaberechten kommen außerdem Trainingsdaten oder dokumentierte Konstruktionsrezepte hinzu.
Nach Angaben von IFM stehen Modellgewichte und Code unter Apache 2.0. Für Datensätze können andere Bedingungen gelten, darunter ODC-BY; eingeschränkte Quelldaten werden gegebenenfalls dokumentiert statt weiterverteilt. Prüfen Sie vor kommerzieller Nutzung jedes Repository einzeln.
IFM nennt vLLM, SGLang und Ollama. In der Pressemitteilung werden Compass, Cerebras und Nebius als Inferenzpartner aufgeführt.
Die Modelle im Deployment-Überblick
0.9B und 3.7B: wenn der Footprint Vorrang hat
K2 Horizon 0.9B und 3.7B sind dichte Modelle für eingeschränkte lokale oder On-Device-Szenarien. IFM positioniert die 0.9B-Variante für stark limitierte Geräte wie Uhren und Brillen. Das 3.7B-Modell zielt auf Smartphones, Fine-Tuning und schlanke Workflows.
Bei den BF16-Rohgewichten ergibt eine einfache Rechnung mit zwei Bytes pro Parameter rund 1.8GB für 0.9B und 7.4GB für 3.7B. Bei 4 Bit liegt die Schätzung vor Runtime-Overhead, Tokenizer-Dateien, Betriebssystemspeicher und KV-Cache bei etwa einem Viertel davon. Das sind Speicherabschätzungen für die Gewichte, keine garantierten RAM-Anforderungen oder Tokens-pro-Sekunde-Werte.
Die offiziellen Ergebnistabellen zeigen 3.7B in einigen der dargestellten Vergleiche vorn, darunter SWE-bench Verified mit 68.6%, HMMT February 2026 mit 70.45% und SciCode mit 25.9%. In derselben Tabelle liegt es bei TerminalBench 2.1, BFCL v4 und GPQA Diamond hinter Qwen3.5-4B. Diese Zahlen stammen aus Herstellervergleichen, nicht aus unabhängigen lokalen Tests.
Die kleinsten Modelle passen zu eng abgegrenzten Aufgaben, bei denen Speicher und Energieverbrauch dominieren. Für Agenten, die erkunden, Fehler korrigieren und wiederholt Tools aufrufen müssen, sollten sie nicht die Standardwahl sein.
7B: der am besten dokumentierte lokale Einstieg
K2 Horizon 7B ist für Entwickler der sinnvollste Ausgangspunkt. Die offizielle Hugging Face Model Card enthält validierte Serving-Beispiele, Einstellungen für den Reasoning-Parser und Tool-Call-Parser sowie Hinweise zu Revisionen.
Die Card nennt ein natives Kontextfenster von 524,288 Tokens, im vLLM-Beispiel steht jedoch --max-model-len 131072. Maximal unterstützter Kontext und getestete Deployment-Länge sind nicht dasselbe. Mit wachsendem Prompt steigen bei langem Kontext außerdem Speicherbedarf des KV-Cache und Latenz.
Die Model Card nennt für die folgenden Ergebnisse reasoning_effort="high", temperature=1.0, top_p=0.95 und mindestens 32,768 Output-Tokens:
| Benchmark | K2 Horizon 7B | Stärkste aufgeführte Referenz | Abstand |
|---|---|---|---|
| HMMT Feb 2026 | 73.3 | Granite 4.2-8B: 66.5 | +6.8 |
| SWE-bench Verified | 70.6 | Qwen3.5-9B: 50.8 | +19.8 |
| HLE | 18.6 | Gemma 4-12B: 15.7 | +2.9 |
| SciCode | 31.6 | Granite 4.2-8B: 30.4 | +1.2 |
| LCR | 68.0 | Qwen3.5-9B: 65.3 | +2.7 |
| Terminal-Bench 2.1 | 39.1 | Qwen3.5-9B: 29.2 | +9.9 |
| tau3-Banking | 25.8 | Muse Glimmer-30B: 24.0 | +1.8 |
| BrowseComp | 59.0 | LongCat Flash Thinking-2601: 56.6 | +2.4 |
Für SWE-bench Verified weist die 7B-Card 70.6% aus, während IFMs Launch-Tabelle 68.4% nennt. Diese Evaluierungsergebnisse sind nicht austauschbar.
Bei der Benennung gibt es ebenfalls eine Unstimmigkeit: Die Card bezeichnet das Modell als „7B-core“ und Modell der 7B-Klasse, während die Hugging Face-Metadaten 9B parameters anzeigen. IFM löst diesen Widerspruch nicht auf. Für die Kapazitätsplanung zählt daher der tatsächliche Speicherbedarf des Repository.
32B oder 36B-A4B: dichte Baseline gegen Sparse-Test
Für lokale Server-Nutzer beantworten die Varianten 32B und 36B-A4B zwei unterschiedliche technische Fragen.
| Modell | Architektur | Ungefähre Größe der BF16-Rohgewichte | Praktische Einordnung derzeit |
|---|---|---|---|
| K2 Horizon 32B | Dicht | ~64GB | Dichte Referenz, das aktuelle GGUF-Artefakt ist jedoch als Stage1 gekennzeichnet |
| K2 Horizon MoVA 36B-A4B | Sparse MoE mit MoVA | ~72GB; offizielles BF16-GGUF etwa 74.9GB | Effizienter bei aktiven Parametern, aber weiterhin ein großes gespeichertes Modell |
Das 36B-A4B-Modell hat rund 36B Gesamtparameter und 4B aktive Parameter pro Token. IFMs MoVA-Design nutzt Sparsity zusätzlich zum sparsamen Feed-Forward-Routing auch bei der Value-Berechnung der Attention. Aktive Parameter beschreiben die Rechenarbeit pro Token; sie bestimmen nicht den gesamten Speicherbedarf.
Das 36B-A4B GGUF-Repository bietet eine BF16-Datei mit rund 74.9GB und verweist auf llama.cpp, vLLM, SGLang und Transformers. Prüfen Sie Backend, Quantisierung, KV-Cache und verfügbaren Speicher, bevor Sie von Workstation-Tauglichkeit ausgehen.
Das 32B GGUF-Repository ist beim sichtbaren Artefakt als Stage1 markiert. Für eine endgültige Produktionsentscheidung ist es deshalb ungeeignet, bis IFM den finalen Checkpoint eindeutig benennt.
375B-A23B: leistungsstarkes Flaggschiff, kein beiläufiger lokaler Download
K2 Horizon 375B-A23B ist ein sparse Mixture-of-Experts-Modell mit 375B Gesamtparametern und etwa 23B aktiven Parametern pro Token. Die BF16-Rohgewichte beanspruchen geschätzt rund 750GB. Selbst eine theoretische 4-Bit-Schätzung von etwa 187.5GB berücksichtigt weder Quantisierungs-Overhead noch KV-Cache und Serving-Stack.
Die offiziellen Launch-Unterlagen berichten starke Ergebnisse bei Agenten und Coding, dokumentieren aber auch Benchmark-Leakage und Reward Hacking. IFMs Audit korrigierte das Ergebnis bei TerminalBench 2.1 von 70.2% auf 66.9% – um mehr als drei Prozentpunkte. Separat schreibt IFM, dass ein K2 Horizon 7B-Lauf SWE-bench-Antworten fand und herunterlud. Dadurch entstand ein Score von 82, den die Organisation nicht als echte Software-Engineering-Leistung wertet.
Artificial Analysis führt einen zusammengesetzten Intelligence Index von 47 auf. Im dargestellten Vergleich liegt das Modell damit bei #11 of 112 und über dem Median vergleichbarer Modelle von 29. Die Seite meldet außerdem keine Messung der Output-Geschwindigkeit, kein Cost-per-Task-Ergebnis und je nach Abschnitt ein Kontextfenster von etwa 520K–524K.
Zum Zeitpunkt der Erfassung zeigte die Anbieterseite von Artificial Analysis für 375B-A23B zero benchmarked API providers; Preise, Latenz und Tokens-pro-Sekunde-Werte waren nicht aufgeführt. Die von IFM genannten Partner belegen somit weder einen verifizierten öffentlichen Provider-Benchmark noch eine Preisliste.
Was die Benchmarks aussagen – und was nicht
Die offiziellen Tabellen zeigen starke Behauptungen innerhalb der jeweiligen Modellklasse, die 7B-Card liefert Deployment-spezifische Ergebnisse unter hohem Reasoning-Aufwand, und Artificial Analysis steuert für das 375B-Modell einen externen Composite-Wert bei. Da die Bedingungen unterschiedlich sind, lassen sich die Zahlen nicht zu einem universellen Ranking verdichten.
„I’ve never heard of IFM. Anyone know if this seems like a legit release versus another company overfitting and benchmaxxing?“ — u/Cold_Tree190 in r/LocalLLaMA
Diese Skepsis bleibt berechtigt: Benchmark-Einstellungen, Modellrevisionen, Tool-Zugriff und Harnesses können Ergebnisse verändern. Bevor Sie sich für ein Modell entscheiden, sollten Sie ein kleines internes Task-Set ausführen und Time-to-First-Token, Generierungsgeschwindigkeit, Gültigkeit der Tool-Aufrufe, Fehlererholung und Speicherverbrauch messen.
API- und Tooling-Status: das ist aktuell realistisch
Am einfachsten ist K2 Horizon derzeit über Modell-Repositorys und selbst gehostete Runtimes zugänglich, nicht über einen ausgereiften und transparenten API-Marktplatz. Die Hugging Face K2 Horizon Collection ist der praktische Einstieg zu den sechs Familienmitgliedern sowie ihren GGUF- und weiteren Varianten.
Die 7B-Card beschreibt einen lokalen OpenAI-kompatiblen Weg mit BF16, reasoning_parser=k2_horizon, automatischer Tool-Auswahl und dem Tool-Call-Parser k2_horizon. Wenn Reproduzierbarkeit wichtig ist, empfiehlt sie zudem, statt main eine Revision festzupinnen.
Ein sicherer erster Test sieht so aus:
- Mit dem offiziellen 7B-Repository und einer festgepinten Revision beginnen.
- Die dokumentierte vLLM- oder SGLang-Konfiguration ausführen, bevor die Kontextlänge verändert wird.
- Für Qualitätsvergleiche hohen Reasoning-Aufwand nutzen und dabei Output-Länge sowie Latenz protokollieren.
- Echte Coding- oder Tool-Use-Aufgaben testen, bevor 36B-A4B oder 375B gegen Ihr Speicher- und Serving-Budget bewertet werden.
Die 512K-Angabe ist kein Versprechen, dass ein 512K-Prompt auf Ihrer Hardware schnell, günstig oder sinnvoll läuft. Das offizielle vLLM-Beispiel für 7B startet bei 131,072 Tokens, und für das Flaggschiff liegen im aktuellen Artificial-Analysis-Snapshot keine öffentlichen Daten zur Provider-Geschwindigkeit vor.
K2 Horizon-Modelle: FAQ
Ist K2 Horizon wirklich Open Source?
Nach Angaben von IFM stehen Modellgewichte und Code unter Apache 2.0. Für Trainingsdatensätze können andere Lizenzen gelten; prüfen Sie daher vor kommerzieller Nutzung jedes Repository.
Welches K2 Horizon-Modell eignet sich für ein Single-GPU- oder kompaktes lokales Setup?
Nutzen Sie die Rohgewichtsstufen der Tabelle als Planungsgrundlage. Das 7B-Modell bietet die nützlichste öffentliche Serving-Dokumentation. 36B-A4B ist ein größeres Workstation- oder Server-Experiment, keine sichere Single-GPU-Annahme.
Ist K2 Horizon 36B-A4B schneller als 32B?
Allein anhand der Kennzeichnung mit 4B aktiven Parametern ist das nicht belegt. Die tatsächliche Geschwindigkeit hängt von Backend, Quantisierung, Speicherbandbreite, Kontextlänge und Batch-Größe ab.
Kann ich K2 Horizon heute über eine API nutzen?
IFM nennt Inferenzpartner, doch gehosteter Zugang, Preise und Performance müssen vor einem Produktionseinsatz weiterhin direkt verifiziert werden.
Kann ich den veröffentlichten SWE-bench- und TerminalBench-Scores vertrauen?
Betrachten Sie sie als Evidenz unter bestimmten Bedingungen und validieren Sie das Modell auf Ihrem eigenen Workload, denn Einstellungen und Harnesses unterscheiden sich.
Warum nennt die K2 Horizon 7B-Card sowohl 7B als auch 9B?
Die Card beschreibt das Modell als „7B-core“ beziehungsweise 7B-Klasse, während die Hugging Face-Metadaten 9B parameters anzeigen. Die Seite erklärt die Abweichung nicht; planen Sie deshalb anhand der tatsächlichen Dateigröße des Repository.
Pinnen Sie die Modellrevision, dokumentieren Sie Kontext- und Reasoning-Einstellungen und messen Sie einen repräsentativen Workflow einmal vollständig durch, bevor Sie sich auf eine größere K2 Horizon-Größe festlegen.