AIREITERUn catálogo de seis modelos, desde 0.9B hasta 375B, parece cubrir cualquier escenario de despliegue. Sin embargo, las cuentas no son tan sencillas. La licencia Apache 2.0 de K2 Horizon elimina el coste de licencia del modelo; MoVA reduce el cómputo activo; pero ninguna de las dos cosas elimina los costes de almacenamiento, caché KV, ejecución o hardware.
Qué incluye el lanzamiento de seis modelos bajo Apache 2.0
IFM presentó K2 Horizon el 3 de septiembre de 2026 como una familia conectada de seis modelos: 375B-A23B, 36B-A4B, 32B, 7B, 3.7B y 0.9B. El anuncio señala que los modelos y el código se publican con Apache 2.0, mientras que los conjuntos de datos se rigen por sus licencias correspondientes (anuncio de IFM).
Seis tamaños, una misma familia y distinto grado de madurez
Estos son los seis integrantes de la familia:
| Modelo | Arquitectura | Posicionamiento oficial | Contexto indicado en los materiales oficiales |
|---|---|---|---|
| K2 Horizon 0.9B | Denso | Relojes, gafas y dispositivos edge con recursos limitados | 128K / 131,072 tokens |
| K2 Horizon 3.7B | Denso | Teléfonos, fine-tuning y trabajo local ligero | 512K / 524,288 tokens |
| K2 Horizon 7B | Denso | Teléfonos, asistentes locales, programación y agentes | 512K / 524,288 tokens |
| K2 Horizon 32B | Denso | Estaciones de trabajo y servidores on-premises | 512K / 524,288 tokens |
| K2 Horizon MoVA 36B-A4B | MoE disperso + MoVA | Servicio local y eficiente | 512K / 524,288 tokens |
| K2 Horizon 375B-A23B | MoE disperso | Despliegues empresariales y con múltiples aceleradores | 512K / 524,288 tokens |
La familia comparte arquitectura y herramientas de despliegue, salvo que el modelo 0.9B emplea un vocabulario más pequeño. Esta base común busca facilitar la migración o el enrutamiento entre tamaños (comunicado de prensa de IFM).
Hay un matiz relevante sobre la madurez de los lanzamientos: la tarjeta oficial de K2-Horizon-32B identifica el checkpoint visible como Stage1 e indica que el checkpoint final todavía está pendiente de publicación. En cambio, las tarjetas de MoVA 36B-A4B y 375B-A23B describen sus checkpoints finales como publicados. Decir que hay «seis modelos anunciados» es correcto; afirmar que son «seis checkpoints finales listos para producción» no lo es (tarjeta del modelo 32B, tarjeta del modelo 375B).
Qué aporta Apache 2.0 a un equipo que autoaloja el modelo
Apache 2.0 permite modificar, redistribuir e integrar comercialmente el modelo y su código sin pagar una tarifa por token. IFM indica que los datasets siguen sus propios términos, como ODC-BY, y que las fuentes restringidas no pueden redistribuirse directamente (anuncio de IFM).
Apache 2.0 elimina el cargo por licencia, no la factura operativa. El alquiler o la amortización de GPU, el almacenamiento de pesos, la capacidad de caché KV, la ingeniería del runtime, la monitorización y las revisiones de seguridad siguen teniendo coste; además, tanto la receta de servicio para 36B como la tarjeta del modelo 375B muestran trust_remote_code=True en sus ejemplos.
Los seis tamaños: primero, la memoria
Las etiquetas de parámetros sirven para comparar la capacidad de los modelos, pero el almacenamiento bruto de los pesos es la primera restricción al autoalojarlos. Las estimaciones siguientes usan dos bytes por parámetro para BF16 y medio byte por parámetro para una representación idealizada de 4 bits; excluyen metadatos, búferes del runtime, caché KV, archivos del tokenizador y memoria del sistema operativo.
| Modelo | Parámetros totales usados para planificación | Parámetros activos por token | Mínimo de planificación en BF16 | Mínimo idealizado en 4 bits | Escenario práctico |
|---|---|---|---|---|---|
| K2 Horizon 0.9B | 0.9B | 0.9B | ~1.8 GB | ~0.45 GB | Experimentos edge y embebidos |
| K2 Horizon 3.7B | 3.7B | 3.7B | ~7.4 GB | ~1.85 GB | Trabajo local compacto o móvil |
| K2 Horizon 7B | Clase 7B | Clase 7B | ~14 GB* | ~3.5 GB* | Primeras pruebas locales serias |
| K2 Horizon 32B | 32B | 32B | ~64 GB | ~16 GB | Estación de trabajo o servidor |
| K2 Horizon MoVA 36B-A4B | 36B | ~4B | ~72 GB | ~18 GB | Estación de trabajo cuantizada o servicio multi-GPU |
| K2 Horizon 375B-A23B | 375B | ~23B | ~750 GB | ~187.5 GB | Entorno empresarial o de clúster |
\*La tarjeta del modelo 7B lo denomina «7B-core», mientras que los metadatos de Hugging Face muestran 9B parámetros. Para planificar capacidad hay que revisar los archivos reales del repositorio, no solo la etiqueta de la familia (tarjeta del modelo 7B).
Los repositorios concretos dejan claro por qué estas cifras son mínimos y no promesas. El GGUF BF16 de 0.9B figura con 2.16 GB, el GGUF BF16 de 3.7B con 10.1 GB, el GGUF BF16 Stage1 de 32B con 69.6 GB y el GGUF BF16 de MoVA 36B con 74.9 GB (GGUF de 0.9B, GGUF de 3.7B, GGUF de 32B, GGUF de 36B).
Los modelos para edge: 0.9B, 3.7B y 7B
0.9B y 3.7B minimizan el almacenamiento y encajan en cargas de trabajo limitadas y específicas, más que en agentes que necesiten recuperarse con solidez de errores (tarjeta del modelo 0.9B, tarjeta del GGUF 3.7B).
Para una primera prueba local, el 7B es la opción mejor documentada de la familia: su tarjeta incluye parsers para razonamiento y llamadas a herramientas, una configuración de paralelismo tensorial en un único dispositivo y variantes cuantizadas. La tabla de benchmarks mostrada informa de 70.6% en SWE-bench Verified, 39.1% en Terminal-Bench 2.1 y 25.8% en tau3-Banking, aunque todos los resultados se obtienen con un esfuerzo de razonamiento alto y la tarjeta advierte de que los detalles del protocolo pueden variar (tarjeta del modelo 7B).
La tarjeta del 7B recomienda un esfuerzo de razonamiento alto y al menos 32,768 tokens de salida; un razonamiento más largo aumenta el tiempo de generación y puede encarecer, en tiempo de reloj, un modelo que cabe en memoria.
Para local y servidor: 32B y 36B-A4B
El 32B es completamente denso y resulta más sencillo de analizar, pero su estado Stage1 y los 69.6 GB de su GGUF oficial son las restricciones reales para planificarlo (GGUF Stage1 de 32B).
El MoVA 36B-A4B plantea otra cuestión: ¿puede un modelo con mucho menos cómputo activo acercarse a la capacidad de un modelo denso y conservar una mayor capacidad total? La tabla de benchmarks del GGUF de IFM informa de 26.8% en tau3-Banking y 58.6% en Terminal-Bench 2.1, donde lidera el conjunto de comparación listado, aunque no encabeza todas las métricas de ciencia, factualidad o contexto largo (tarjeta de benchmarks del GGUF 36B).
Una vez que los pesos están cargados, su menor número de parámetros activos puede mejorar el rendimiento sostenido, pero el resultado depende del backend, el batching, la interconexión y la cuantización.
El modelo insignia: 375B-A23B
La tarjeta oficial documenta una configuración validada de SGLang para K2 Horizon 375B-A23B con ocho GPU H200, paralelismo tensorial de 8, paralelismo de expertos de 8, BF16 y FlashAttention-3 (tarjeta del modelo 375B).
La relación entre parámetros totales y activos puede reducir el cómputo frente a un modelo denso de 375B, pero el mínimo aproximado de 750GB en BF16 sigue delimitando la infraestructura necesaria. Artificial Analysis le asigna una puntuación de 47 en Intelligence Index y la posición #11 de 112 en la clase mostrada, pero no informa de velocidad de salida ni de coste por tarea para este modelo (perfil de Artificial Analysis).
Con el perfil validado actualmente y documentado para ocho H200, hay que tratarlo como un despliegue de escala clúster.
MoVA mejora la economía del cómputo, no el mínimo de almacenamiento
MoVA significa Mixture-of-Value Attention. Los diseños convencionales de mezcla de expertos suelen aplicar el enrutamiento disperso en las capas feed-forward; IFM describe MoVA como una extensión del enrutamiento de expertos al componente de valor de la atención, manteniendo compatibilidad con técnicas como FlashAttention y la atención con consultas agrupadas (explicación de la arquitectura de IFM).
Qué significa realmente la etiqueta 36B-A4B
El nombre «36B-A4B» comunica dos magnitudes distintas: hay aproximadamente 36B parámetros totales disponibles, pero solo unos 4B se activan con cada token. Esto puede reducir las operaciones de multiplicación-acumulación y el tráfico de memoria en la ruta activa, especialmente en cargas con generación sostenida.
No significa que los expertos no usados desaparezcan. El archivo GGUF oficial ocupa 74.9 GB en BF16, y la receta de vLLM describe un modelo con 37.44B parámetros almacenados, incluidos los embeddings, y 5.95B parámetros activos por token. Son dos formas de empaquetar y contabilizar la misma arquitectura, no evidencia de un modelo independiente de 37B (receta de vLLM).
Un modelo mental útil es el siguiente:
- Capacidad residente: el almacenamiento y la memoria deben contener los pesos que podrían seleccionarse.
- Cómputo activo: cada token utiliza solo un subconjunto enrutado.
- Estado de ejecución: la caché KV, los búferes temporales, el batching y la sobrecarga del framework se mantienen.
- Coste del sistema: la interconexión, la energía, la RAM del host y el tiempo operativo determinan la factura.
Por qué el titular de 512K de contexto no sirve como presupuesto
Las tarjetas de K2 Horizon anuncian un contexto nativo de 524,288 tokens para los modelos grandes. Sin embargo, las recetas publicadas de vLLM para MoVA 36B-A4B y 375B-A23B configuran --max-model-len 131072, una cuarta parte de ese máximo anunciado (receta vLLM de 36B, tarjeta del modelo 375B).
Las recetas a 131K muestran que el contexto nativo de 512K no es una opción de servicio gratuita por defecto: los contextos más largos consumen caché KV, reducen la concurrencia y elevan la latencia del prompt.
Escenarios de autoalojamiento con costes
K2 Horizon no tiene un precio de API transparente y universal que pueda usarse como referencia. La página oficial del GGUF de MoVA indica que ningún proveedor de inferencia despliega actualmente el modelo, mientras que Artificial Analysis muestra precios de entrada y salida de $0.00 para el perfil 375B, pero marca como no disponibles la velocidad y el coste por tarea; esto no demuestra que exista un endpoint de producción gratuito (tarjeta del GGUF de MoVA, Artificial Analysis).
| Escenario | Qué ofrece | Principal riesgo económico | Veredicto |
|---|---|---|---|
| GPU de clase 24GB con una cuantización 4 bits adecuada de 36B | Experimentación de bajo coste y privacidad | Poco margen para contexto o concurrencia; el soporte de cuantización y runtime puede ser inmaduro | Mejor para un piloto, no como objetivo de producción garantizado |
| Estación de trabajo con 32B BF16 o 36B BF16 | Mayor fidelidad y comparaciones de calidad más simples | 64–75GB de pesos antes de caché y memoria de ejecución | Normalmente exige un sistema multi-GPU o con mucha memoria |
| Servicio 36B con dos H200 | Se ajusta al perfil de servicio MoVA documentado | Costes de alquiler, host, almacenamiento y utilización | Razonable para servicio sostenido o evaluación controlada |
| Servicio 375B con ocho H200 | Capacidad insignia y throughput a escala empresarial | Gran compromiso de capital o gasto por hora en infraestructura | Solo a escala clúster |
Un experimento con una GPU de clase 24GB
El mínimo idealizado en 4 bits para un modelo de 36B es de unos 18GB, lo que deja menos de 6GB en una tarjeta de 24GB para metadatos de cuantización, búferes del runtime y caché KV. Esta aritmética hace plausible una prueba de clase 24GB con contexto moderado, pero no establece un mínimo universal: la cuantización exacta, el backend, la política de offload y la longitud del prompt siguen determinando si la ejecución resulta utilizable.
El artefacto oficial citado de MoVA en GGUF es BF16, no una cuantización pequeña para consumo. La colección de Hugging Face enumera variantes GGUF y FP8 para toda la familia, pero el trabajo de conversión y compatibilidad del día de lanzamiento también debe entrar en el presupuesto de despliegue (colección K2 Horizon).
“I assume they are still uploading other GGUFs--all I see is a BF16 GGUF so far” — u/apoptosist en r/LocalLLaMA.
Dos H200 para la ruta 36B documentada
La receta de vLLM para MoVA de IFM usa paralelismo tensorial de 2, paralelismo de expertos, BF16 y un límite de servicio de 131,072 tokens. La documentación de SGLang indica que la configuración se validó con 2× H200, una señal de hardware más sólida que el nombre del modelo por sí solo (receta de vLLM, tarjeta oficial del GGUF).
Las tarifas publicadas por proveedores explican por qué la utilización importa. DigitalOcean lista una NVIDIA H200 dedicada a $4.47 por GPU-hora y una configuración de 8× H200 a $35.78 por hora; Google Cloud lista una máquina A3 Ultra con 8× H200 a $84.806908493 por hora, con vCPU, memoria y SSD adjuntos incluidos en el precio del tipo de máquina (precios de DigitalOcean, precios de Google Cloud).
Con la tarifa por GPU indicada, dos H200 suponen unos $8.94 por hora o $6,526 por un mes de 730 horas antes de los costes de host y almacenamiento; úsalo solo como referencia sensible a la utilización, no como presupuesto para dos GPU.
Ocho H200 para 375B-A23B
La receta oficial de servicio del modelo insignia usa ocho H200, TP=8, EP=8 y BF16. Esa configuración encaja con el mínimo aproximado de planificación de 750GB en BF16 y deja clara la frontera empresarial (tarjeta del modelo 375B).
El precio listado por Google de una máquina con 8× H200, $84.81 por hora, equivale a unos $61,909 por 730 horas, antes de impuestos, transferencia de datos, almacenamiento persistente y operaciones de aplicación. Es una referencia de infraestructura, no un precio de K2 Horizon ni una garantía de que la receta publicada alcance una velocidad concreta en tokens por segundo.
Qué demuestran —y qué no— las primeras pruebas de autoalojamiento
Los primeros informes muestran que K2 Horizon puede ejecutarse, pero las cuantizaciones y runtimes heterogéneos aún no trazan una curva universal de coste-rendimiento.
Un informe detallado en X ofrece un buen ejemplo de hasta qué punto puede importar el backend:
“36B-A4B MoVA does 131-142 tok/s on 2x 5090 with llama.cpp (IFM's fork, Q8_0, 131K ctx) vs 52 on vLLM...” — @abtraore_.
Este informe, útil pero no controlado, deja claro por qué decir que «MoVA es más rápido» no basta sin especificar el backend y la configuración.
El debate en Reddit apunta a dudas sin resolver sobre cuantización, poca VRAM, comparativas y llamadas a herramientas, no a un rendimiento validado (hilo de r/LocalLLaMA).
Para tomar una decisión de compra seria, faltan mediciones de memoria residente por cuantización, crecimiento de la caché KV según el contexto, velocidad de prompt y generación, fiabilidad de las llamadas a herramientas, consumo energético y coste por tarea completada bajo una misma carga de trabajo controlada.
Elige según la utilización, no según el marketing de parámetros activos
El modelo K2 Horizon adecuado depende de la frecuencia de uso, del contexto necesario y de si la calidad de salida justifica la infraestructura. Un piloto breve debe priorizar la reversibilidad; un servicio privado siempre activo, la utilización y la estabilidad operativa.
| Tu carga de trabajo | Empieza por | Motivo | Detente o sube de nivel cuando |
|---|---|---|---|
| Wearable, dispositivo embebido o tarea limitada tipo clasificador | 0.9B | La menor huella y una promesa de 128K de contexto | La profundidad de herramientas o la cobertura del dominio se conviertan en el cuello de botella |
| Asistente local compacto o experimento de fine-tuning | 3.7B | Baja carga de almacenamiento y un razonamiento más amplio que 0.9B | Predominen los fallos de programación y recuperación |
| Primer piloto serio de programación o agentes en local | 7B | Documenta parsers, paralelismo tensorial y variantes cuantizadas | Las tareas largas requieran una planificación o uso de herramientas más fiables |
| Estación de trabajo de alta capacidad con una referencia densa | 32B Stage1, con cautela | El comportamiento denso es más fácil de comparar, pero el checkpoint actual no es final | El checkpoint final y los resultados medidos justifiquen la memoria |
| Inferencia repetida en local o servidor donde importe el cómputo activo | MoVA 36B-A4B | Menor número de parámetros activos y una ruta TP=2/EP documentada | El contexto, la concurrencia o la fricción del runtime eliminen la ganancia de eficiencia |
| Razonamiento empresarial y agentes de horizonte largo | 375B-A23B | El miembro de mayor capacidad de la familia y una ruta documentada con 8× H200 | El coste por tarea o la utilización no sostengan el caso de negocio |
Antes de cambiar de modelo en un primer piloto, registra cinco valores: pico de VRAM/RAM, longitud del prompt, tiempo hasta el primer token, tokens generados por segundo y coste por tarea completada. Mantén el límite de contexto en los 131,072 tokens documentados hasta que la carga de trabajo demuestre que ampliar el contexto compensa el coste de caché y latencia.
Si la pregunta es qué miembro de la familia cabe en una máquina concreta, la guía de dimensionamiento de modelos K2 Horizon independiente aborda ese problema más acotado. Esta página prioriza, en cambio, la utilización y el coste medido por tarea frente a las etiquetas de parámetros activos.
Preguntas frecuentes sobre los modelos K2 Horizon
¿Apache 2.0 significa que todos los datasets de K2 Horizon usan Apache 2.0?
No. IFM afirma que los modelos y el código usan Apache 2.0, mientras que los datasets se rigen por las licencias aplicables, como ODC-BY. Revisa cada repositorio y dataset antes de redistribuirlos o utilizarlos para entrenamiento comercial (anuncio de IFM).
¿Que haya 4B activos significa que K2 Horizon MoVA 36B-A4B necesita la memoria de un modelo 4B?
No. El modelo activa aproximadamente 4B parámetros por token, pero su GGUF oficial en BF16 ocupa unos 74.9GB. El almacenamiento de pesos, la caché KV, los búferes del runtime, la sobrecarga de cuantización y la concurrencia determinan la necesidad de memoria real.
¿Puede ejecutar K2 Horizon MoVA 36B-A4B una sola GPU de 24GB?
Una cuantización 4 bits adecuada puede hacer plausible un experimento con contexto moderado, porque el mínimo idealizado de pesos para 36B es de unos 18GB. El artefacto oficial en BF16 y la ruta de servicio validada con dos H200 exigen bastante más margen, así que un resultado en 24GB debe considerarse una configuración de piloto, no una garantía general de producción.
¿Es económico servir el contexto anunciado de 512K?
No automáticamente. Las tarjetas de los modelos indican un contexto nativo de 524,288 tokens, mientras que los ejemplos documentados de vLLM usan 131,072 tokens; un contexto más largo incrementa la demanda de caché KV y la latencia, y a menudo reduce la concurrencia.
¿K2 Horizon 375B-A23B es un modelo normal para autoalojar?
No. IFM documenta una configuración SGLang con ocho H200, y el mínimo aproximado de planificación en BF16 es de 750GB antes de la sobrecarga del runtime. Trátalo como un despliegue empresarial o de clúster salvo que algún proveedor publique una configuración validada más pequeña.
¿El precio de $0.00 mostrado para K2 Horizon 375B corresponde a una API gratuita real?
No hay base para extraer esa conclusión. Artificial Analysis muestra precios de entrada y salida de $0.00, pero deja sin disponibilidad la velocidad y el coste por tarea, mientras que la página oficial del modelo no cuenta con proveedor de inferencia en Hugging Face; verifica el contrato y la tarifa de un proveedor identificado antes de usar esa cifra en un presupuesto.