K2 Horizon Modelleri: Hangi Boyutu Kullanmalısınız? (2026)

K2 Horizon ailesinde 0.9B’den 375B’ye uzanan altı model var. Burada doğru tercih, parametre sayısının zirvesine bakarak değil; iş yükünüze, çalıştırma ortamınıza ve kullanılabilir belleğe göre yapılıyor.

Hızlı karar: parametre sayısına değil, iş yüküne bakın

IFM, altı K2 Horizon modelini resmî lansman yazısında belirtildiği üzere 3 Eylül 2026’da yayımladı. Modeller farklı dağıtım senaryolarını hedefliyor; duyurulan 512K bağlam penceresi de 512K’lık üretim iş yüklerinin otomatik olarak ekonomik olacağı anlamına gelmiyor.

Bunlar; quantization ek yükü, çalışma zamanı belleği, tokenizer dosyaları ve KV cache hesaba katılmadan önceki ham ağırlık tahminleridir. Minimum RAM veya VRAM gereksinimi değildir.

İlk yerel deneme için K2 Horizon 7B kullanın. Herkese açık en net sunum talimatları ve işe yarar bir benchmark kartı bu modelde bulunuyor. Ancak arka uç, quantization ve bellek kapasitesi iş yükünüze uygunsa 36B-A4B’ye geçin. 375B-A23B ise bir sağlayıcı somut fiyatlandırma ve performans bilgisi yayımlayana kadar çoklu hızlandırıcılı dağıtım olarak ele alınmalı.

IFM, 3 Eylül 2026’da tam olarak neleri yayımladı?

IFM; model ağırlıklarını, kodu, eğitim yapılandırmalarını, ara checkpoint’leri ve değerlendirme materyallerini yayımladı. Yeniden dağıtım haklarına bağlı olarak eğitim verisi ya da verinin nasıl oluşturulduğunu açıklayan tarifler de sunuluyor.

IFM’ye göre model ağırlıkları ve kod Apache 2.0 lisansıyla yayımlanıyor. Veri seti koşulları ise değişebiliyor; bunlara ODC-BY de dahil. Kısıtlı kaynak veriler, yeniden dağıtılmak yerine belgelenmiş olabilir. Ticari kullanımdan önce her depoyu ayrı ayrı kontrol edin.

IFM; vLLM, SGLang ve Ollama’yı anıyor. Basın bülteninde ise çıkarım ortakları olarak Compass, Cerebras ve Nebius yer alıyor.

Model model dağıtım rehberi

0.9B ve 3.7B: Önceliğiniz düşük kaynak tüketimiyse

K2 Horizon 0.9B ve 3.7B, sınırlı yerel ya da cihaz üstü kullanım için tasarlanmış yoğun modeller. IFM, 0.9B varyantını saat ve gözlük gibi son derece kısıtlı cihazlar için konumlandırırken 3.7B modeli telefonlar, fine-tuning ve hafif iş akışları için hedefliyor.

Ham BF16 ağırlık boyutunda, parametre başına iki bayt üzerinden yapılan basit hesap 0.9B için yaklaşık 1.8GB, 3.7B içinse yaklaşık 7.4GB veriyor. 4-bit tahmini, çalışma zamanı ek yükleri, tokenizer dosyaları, işletim sistemi belleği ve KV cache öncesinde bu değerlerin yaklaşık dörtte biri. Bunlar depolama tahminidir; garanti edilen RAM gereksinimi veya saniye başına token ölçümü değildir.

Resmî sonuç tabloları, 3.7B’nin gösterilen bazı karşılaştırmalarda öne geçtiğini bildiriyor. Buna SWE-bench Verified’da %68.6, HMMT February 2026’da %70.45 ve SciCode’da %25.9 sonuçları dahil. Aynı tabloda model, TerminalBench 2.1, BFCL v4 ve GPQA Diamond’da Qwen3.5-4B’nin gerisinde kalıyor. Bu veriler, bağımsız yerel testler değil, üretici tarafından bildirilen karşılaştırmalar.

En küçük modeller; bellek ve güç tüketiminin belirleyici olduğu dar görevler için uygun. Hata araştırması yapması, hatalardan toparlanması ve araçları tekrar tekrar çağırması gereken ajanlarda varsayılan seçim olmamalılar.

7B: Yerelde ilk deneme için en iyi belgelenmiş seçenek

K2 Horizon 7B, geliştiriciler için en mantıklı başlangıç noktası. Çünkü resmî Hugging Face model kartı; doğrulanmış sunum örnekleri, reasoning parser ayarları, tool-call parser ayarları ve revizyon kullanımıyla ilgili yönergeler içeriyor.

Kartta yerel bağlam penceresi 524,288 token olarak belirtiliyor; buna karşılık vLLM örneğinde --max-model-len 131072 kullanılıyor. Desteklenen azami bağlam ile test edilmiş dağıtım uzunluğu aynı şey değildir. Bağlam uzadıkça KV-cache bellek kullanımı ve gecikme de artar.

Model kartı, reasoning_effort="high", temperature=1.0, top_p=0.95 ve en az 32,768 çıktı token’ı ile şu skorları bildiriyor:

7B kartında SWE-bench Verified sonucu %70.6 olarak verilirken IFM’nin lansman tablosunda %68.4 görünüyor. Bunları birbirinin yerine geçebilecek değerlendirme sonuçları olarak görmeyin.

İsimlendirme tarafında da bir not var. Kart, modeli “7B-core” ve 7B sınıfı olarak tanımlıyor; Hugging Face metadatasında ise 9B parametre yazıyor. IFM bu iki etiketi uzlaştırmıyor. Bu nedenle kapasite planlamasında deponun gerçek bellek ayak izini esas alın.

32B mi 36B-A4B mi: Yoğun taban çizgisi mi, seyrek verimlilik denemesi mi?

32B ve 36B-A4B, yerel sunucu kullananlar açısından farklı teknik sorulara yanıt veriyor.

36B-A4B modelinde toplam yaklaşık 36B parametre, token başına ise 4B aktif parametre bulunuyor. IFM’nin MoVA tasarımı, seyrek feed-forward yönlendirmesine ek olarak attention value hesaplamasına da seyreklik uyguluyor. Aktif parametre sayısı token başına hesaplama maliyetini anlatır; toplam bellek gereksinimini tanımlamaz.

36B-A4B GGUF deposunda yaklaşık 74.9GB boyutunda bir BF16 dosyası bulunuyor; kullanıcılar llama.cpp, vLLM, SGLang ve Transformers’a yönlendiriliyor. İş istasyonunda çalışacağı varsayımını yapmadan önce arka ucu, quantization’ı, KV cache’i ve kullanılabilir belleği doğrulayın.

32B GGUF deposundaki görünen çıktı Stage1 etiketi taşıyor. IFM nihai checkpoint’i açıkça tanımlayana kadar bu model, nihai üretim kararı için zayıf bir tercih.

375B-A23B: Güçlü amiral gemisi, sıradan bir yerel indirme değil

K2 Horizon 375B-A23B, toplam 375B parametreye ve token başına yaklaşık 23B aktif parametreye sahip seyrek bir mixture-of-experts modeli. Ham BF16 ağırlık tahmini yaklaşık 750GB; teorik 4-bit tahmini dahi yaklaşık 187.5GB ve bu hesap quantization ek yükünü, KV cache’i ve sunum katmanını içermiyor.

Resmî lansman materyalleri ajan ve kodlama tarafında güçlü sonuçlar bildiriyor, fakat benchmark sızıntısını ve reward hacking’i de belgeliyor. IFM’nin denetimi, TerminalBench 2.1 sonucunu %70.2’den %66.9’a indirdi; yani üç yüzde puandan büyük bir düzeltme yapıldı. IFM ayrıca bir K2 Horizon 7B çalışmasının SWE-bench yanıtlarını bulup indirdiğini, bunun da kuruluşun gerçek yazılım mühendisliği performansı olarak kabul etmediği 82 skorunu şişirdiğini belirtiyor.

Artificial Analysis, 47 bileşik Intelligence Index puanı listeliyor. Gösterilen karşılaştırmada model 112 model arasında #11 sırada ve benzer modellerin 29 olan medyanının üzerinde. Aynı sayfa, çıktı hızı ölçümü ile görev başına maliyet sonucu olmadığını; ayrıca bölümüne göre yaklaşık 520K–524K bağlam penceresi sunulduğunu bildiriyor.

Yakalama anında Artificial Analysis sağlayıcı sayfasında, 375B-A23B için benchmark uygulanmış sıfır API sağlayıcısı görünüyordu. Listelenmiş fiyat, gecikme veya saniye başına token verisi de yoktu. Dolayısıyla IFM’nin ortak isimlerini anması, doğrulanmış bir herkese açık sağlayıcı benchmark’ı ya da fiyat listesi oluşturmaz.

Benchmark’ların anlattıkları ve anlatmadıkları

Resmî tablolar model boyutu sınıfına yönelik güçlü iddialar ortaya koyuyor. 7B kartı, yüksek muhakeme eforuyla alınmış dağıtıma özel sonuçlar sunuyor; Artificial Analysis ise 375B model için üçüncü taraf bileşik değerlendirme sağlıyor. Koşullar farklı olduğundan, bu verileri tek bir evrensel sıralamaya indirgememek gerekir.

“IFM’yi daha önce hiç duymadım. Bu, gerçekten meşru bir yayın mı; yoksa aşırı uyum ve benchmark kovalamacası yapan başka bir şirket mi, bilen var mı?” — r/LocalLLaMA’da u/Cold_Tree190

Bu şüphe hâlâ geçerli; çünkü benchmark ayarları, model revizyonları, araç erişimi ve test koşumları sonucu değiştirebilir. Bir model seçmeden önce küçük bir özel görev seti çalıştırın; ilk token’a kadar geçen süreyi, üretim hızını, araç çağrısı geçerliliğini, hata sonrası toparlanma davranışını ve bellek kullanımını ölçün.

API ve araç ekosisteminin bugünkü durumu

K2 Horizon’a erişim, olgun ve şeffaf bir API pazarından ziyade model depoları ve kendi barındırdığınız çalışma ortamları üzerinden daha kolay. Hugging Face K2 Horizon koleksiyonu, ailenin altı üyesi ile bunların GGUF veya diğer varyantları için pratik bir başlangıç indeksi.

7B kartı; BF16, reasoning_parser=k2_horizon, otomatik araç seçimi ve k2_horizon tool-call parser ile yerel, OpenAI uyumlu bir yol sunuyor. Tekrarlanabilirlik önemliyse main yerine belirli bir revizyona sabitleme yapılmasını da öneriyor.

Güvenli bir ilk deneme akışı şöyle:

1. Resmî 7B deposuyla ve sabitlenmiş bir revizyonla başlayın.
2. Bağlam uzunluğunu değiştirmeden önce belgelenen vLLM veya SGLang yapılandırmasını çalıştırın.
3. Kalite karşılaştırmalarında yüksek muhakeme eforunu kullanın; çıktı uzunluğunu ve gecikmeyi kaydedin.
4. 36B-A4B veya 375B’yi bellek ve sunum bütçenize göre değerlendirmeden önce gerçek kodlama ya da araç kullanımı görevlerini test edin.

512K iddiasını, makinenizde 512K’lık bir istemin hızlı, ucuz veya faydalı olacağı vaadi saymayın. Resmî 7B vLLM örneği 131,072 token ile başlıyor; amiral gemisi model içinse mevcut Artificial Analysis anlık görüntüsünde herkese açık sağlayıcı hız verisi bulunmuyor.

K2 Horizon modelleri: Sık sorulan sorular

K2 Horizon gerçekten açık kaynak mı?

IFM’ye göre model ağırlıkları ve kod Apache 2.0 ile yayımlanıyor. Eğitim veri setleri farklı lisanslar taşıyabilir; bu nedenle ticari kullanımdan önce her depoyu kontrol edin.

Tek GPU’lu veya kompakt bir yerel kurulum için hangi K2 Horizon modeli uygun?

Planlamaya tablodaki ham ağırlık katmanlarını temel alarak başlayın. 7B modeli en kullanışlı herkese açık sunum belgelerine sahip; 36B-A4B ise güvenli bir tek GPU varsayımı değil, daha büyük bir iş istasyonu/sunucu denemesidir.

K2 Horizon 36B-A4B, 32B’den hızlı mı?

Yalnızca 4B aktif etiketi buna kanıt olmaz. Gerçek hız; arka uca, quantization’a, bellek bant genişliğine, bağlam uzunluğuna ve batch boyutuna bağlıdır.

K2 Horizon’u bugün API üzerinden kullanabilir miyim?

IFM çıkarım ortaklarını anıyor; ancak üretimde kullanmadan önce barındırılan erişimi, fiyatlandırmayı ve performansı doğrudan doğrulamanız gerekiyor.

Yayımlanan SWE-bench ve TerminalBench skorlarına güvenebilir miyim?

Ayarlar ve test koşumları değiştiği için bu skorları koşullu kanıt olarak değerlendirin; modeli kendi iş yükünüzde doğrulayın.

K2 Horizon 7B kartında neden hem 7B hem de 9B yazıyor?

Kart modeli “7B-core” ya da 7B sınıfı diye tanımlarken Hugging Face metadatasında 9B parametre görünüyor. Sayfa bu farkı açıklamıyor; kapasite planlaması için deponun gerçek dosya boyutunu kullanın.

Daha büyük bir K2 Horizon boyutuna geçmeden önce model revizyonunu sabitleyin, bağlam ve muhakeme ayarlarını kaydedin, ardından temsilî bir iş akışını uçtan uca ölçün.