Edge0-145B İncelemesi: Gerçek VRAM, RAM ve SSD İhtiyacı (2026)

145 milyar parametreli Edge0-145B, bir dizüstü bilgisayarda saniyede 80 token vaat ediyor. Ağırlıklar indirilebilir olsa da ayrıntılara indiğinizde karşınıza CUDA 13 kullanan bir NVIDIA sistemi ve yaklaşık 105 GB SSD ihtiyacı çıkıyor.

Bu Edge0-145B incelemesinde lansman iddialarını lansman yazısı, model dokümanı ve Q3_K model kartı ile karşılaştırıyor, ilk topluluk testlerini de hesaba katıyoruz. Böylece 105 GB'lık indirmeye başlamadan önce modeli yerel olarak mı çalıştıracağınıza, yoksa API mi kullanacağınıza karar verebilirsiniz.

12 Kasım'da ne yayımlandı: ağırlıklar, motor ve sınırlar

Edge0, Edge0-145B ve Edge0-120B'yi 12 Kasım 2026'da yayımladı. Ağırlıklar Edge0-145B-q3k ve Edge0-145B-NVFP4 depolarında, çalıştırma motoru edge0-strata ise Edge0-AI/Edge0 projesinde yer alıyor. Edge0-145B; 256K bağlam penceresine sahip, yalnızca metin işleyen, gizli Mixture-of-Experts mimarisindeki bir model. Qwen3.8-Flash-Next temel alınarak geliştirilen model, doğrudan 4-bit olarak eğitildi. Token başına yaklaşık 10,12 milyar parametre etkinleşiyor; dolayısıyla toplam 145 milyar parametrenin tamamını VRAM'e sığdırmanız gerekmiyor.

Toplam yapı yaklaşık 84,6 milyar uzman parametresi, SSD'den bellek eşlemeli olarak okunan 51,2 milyar parametreli PLE n-gram tablosu, spekülatif kod çözme için 1,26 milyar parametreli taslak başlık ve 6 GB'lık iskeletten oluşuyor. Q3_K sürümünde 105,4 GB'lık depoda 40,81 GiB ağırlık bulunurken NVFP4 sürümünde 112,9 GB'lık depoda 47,79 GiB ağırlık yer alıyor. Yönlendirmeli uzmanlar, taşınabilir bir GGUF dosyası yerine özel bir experts.bin paketi içinde tutuluyor.

29 GB iddiası neden 29 GB'la sınırlı değil?

Blog yazısında bir bölümde 29 GB, başka bir bölümde 28 GB tepe bellek kullanımı veriliyor. Aynı yerde ön işlem için saniyede 1.100'den fazla token, üretim için 80'den fazla token ve 120 W güç tüketimi de listelenmiş. Buna karşılık Q3_K kartı, RTX 5090 D üzerinde 23,14 GiB VRAM ve 31,28 GiB sistem RAM'i bildiriyor. NVFP4 için bu değerler sırasıyla 23,25 GiB ve 38,27 GiB. Uzman kütüphanesi RAM'de yaklaşık 40 GB yer kaplarken yaklaşık 48 GB'lık kelime haznesi SSD'den akışla okunuyor.

Sık kullanılan uzmanlar VRAM'de, daha az kullanılanlar RAM'de tutuluyor; 51,2 GB'lık PLE tablosu ise ihtiyaç oldukça SSD'den okunuyor. Yalnızca etkin bellekteki veriyi hesaplarsanız kullanım 29 GB'a yaklaşabiliyor. Ancak depolama ve veri akışı için deponun tamamına yine ihtiyaç var.

Edge0-145B'yi çalıştırmak için gerçekten ne gerekiyor?

Edge0-145B, edge0-infer üzerinden Linux veya Windows'ta NVIDIA GPU ve CUDA 13 ile çalışıyor. Yayımlanan dosyalarda standart llama.cpp, Ollama veya LM Studio için bir yükleme yolu bulunmuyor. İskelet GGUF dosyasında yönlendirmeli uzman ağırlıkları yer almıyor ve Edge0 yalnızca edge0-infer kullanımını belgeliyor; ayrıntılar için proje talimatlarına bakabilirsiniz. Bu nedenle llama.cpp v1.0 rehberindeki iş akışı burada geçerli değil. Blog yazısı macOS ve MacBook Pro desteğini ilk günden sunulduğu şekilde tanımlasa da platform tablosu, 145B ve 120B için yalnızca CUDA 13 kullanan Linux ve Windows sistemlerini listeliyor.

Test edilmiş en düşük yapılandırma, Q3_K ile ajan modunda saniyede 44,9 token üreten 16 GiB VRAM ve 20 GiB RAM. Önerilen yapı ise 24 GB NVIDIA ekran kartı, 32 GB sistem RAM'i; 48 GB RAM ise daha rahat bir kullanım sunuyor. Ayrıca 120 GB boş NVMe alanı, CUDA 13, CMake, Ninja ve uv gerekiyor. Derleme ve sunucu kurulumu için proje talimatları doğrultusunda şu komutları kullanabilirsiniz:

git clone https://github.com/Edge0-AI/Edge0.git edge0
hf download Edge0/Edge0-145B-q3k --local-dir ./Edge0-145B-q3k   # ~105 GB
export EDGE0_145B=$PWD/Edge0-145B-q3k
build/cpu/bin/edge0-infer serve --model "$EDGE0_145B"  # :8000

Windows kullanıcıları bunun yerine GitHub Releases sayfasındaki Edge0 Chat uygulaması v0.2.0'ı indirebilir. AMD tarafında ise elle düzeltme yapmak gerekiyor. u/UghrUghr, r/LocalLLaMA başlığında Windows 11 üzerinde RX 7900 XTX ile derleme ve çalışma aşamalarında yaklaşık 35 satır değişiklik yaptığını aktarıyor. CUDA ile birleştirilmiş kernel'lar kullanılamadığı için sistem daha yavaş bir yedek yola düşüyor.

Q3_K mi, NVFP4 mü: hangisini indirmeli?

105,4 GB'lık Q3_K varsayılan seçenek. Edge0 tablosuna göre RTX 5090 D üzerinde ajan modunda saniyede 121,2 token üretiyor. 112,9 GB'lık NVFP4 ise aynı ekran kartında 98,3 token ile Blackwell hızlandırmasını hedefliyor. Blackwell donanımınız yoksa Q3_K ile başlamak daha mantıklı.

Gerçek ekran kartlarında ne kadar hızlı?

Aşağıdaki değerler, aksi belirtilmedikçe Edge0 tarafından raporlanan ve 16K ön işlem kullanılan Q3_K sonuçlarıdır. M2 Ultra satırı Metal ölçümüne dayanıyor; bu sonuç tek başına bir macOS sürümünün yayımlandığını göstermiyor.

Bir RTX 3090 kullanıcısı Q3_K ile ilk token'a kadar 20,1 saniye, 1.583 token/sn ön işlem ve 56,2 token/sn üretim bildirdi. Bu da hızın amiral gemisi kartların gerisinde kaldığına işaret ediyor:

3090 sistemimde az önce denedim — Edge0-145B Q3_K için TTFT 20,1 saniye, ön işlem 1583 token/sn, üretim 56,2 token/sn.

— u/LightBrightLeftRight, r/LocalLLM başlığı

Yukarıda bahsettiğimiz AMD sisteminde u/UghrUghr yaklaşık 40 üretim hızına ulaştığını, ROUTE_TAIL_SKIP=7 ve ROUTE_PRIOR=1.5 kullanıldığında bu değerin yaklaşık 54'e çıktığını, istem işleme hızının ise yaklaşık 320 olduğunu bildiriyor. Bunlar kontrollü tekrar testleri değil, tek kullanıcının aldığı anlık sonuçlar. Hız, 5090 D seviyesinin yaklaşık yarısı ile üçte ikisi arasında.

Benchmark sonuçları: iki güçlü taraf, dört önemli çekince

Edge0'ın tablosu; Edge0, Qwen, DeepSeek ve Claude için şirket içi testleri, diğer modeller içinse üçüncü taraf verilerini bir araya getiriyor. Bu ayrım model dokümanında belirtilmiş. Edge0-145B iki kodlama ajanı testinde öne çıkarken bilgi ve talimat testlerinde kendi Qwen temel modelinin gerisinde kalıyor. 13 Kasım 2026 itibarıyla bağlantısı verilmiş bağımsız bir tekrarlı test bulamadım. Ayrıca puanlar, indirilebilir quantize sürümleri değil modelin tam hâlini tanımlıyor.

Edge0'ın hesaplamasına göre ortalama skor Edge0-145B için 72,8; Qwen3.8-Flash-Next için 71,7 ve DeepSeek-V4-Flash için 70,1. 120B'nin ortalaması ise 68,9. Benim değerlendirmem şu: İki boyut için de tepe kullanım iddiaları benzer olduğundan, disk alanı kritik değilse 145B tercih edilmeli.

Lisans: açık ağırlık, açık kaynak demek değil

Framework Apache 2.0, Strata temeli ise MIT lisanslı. Ancak ağırlıklar Edge0 Community Model License 1.0 kapsamında ve Qwen koşulları da geçerli. Kişisel, araştırma, kurum içi ve çıktılar için ticari kullanım serbest. Buna karşılık modeli satmak veya paketlemek, ücretli bir servis çalıştırmak ya da ticari bir kodlama veya ofis asistanı sunmak için ayrıca yazılı izin gerekiyor.

İndirmeli mi, yoksa API mı kullanmalı?

Donanımınız yeterliyse ve kodun cihaz dışına çıkmasını istemiyorsanız indirin. Ancak tek seferlik bir deneme için donanım satın almadan önce barındırılan API fiyatlarını karşılaştırmak daha mantıklı. Barındırılan çıkarım seçeneklerini değerlendiren geliştiriciler, 105 GB disk alanını ayırmadan önce DeepSeek V4.1 Flash API sayfasına göz atabilir.

Buradaki temel denge, kaynak ve pratiklik arasında. Uzmanların akışla yüklenmesi 100 milyar ve üzeri modellerde VRAM eşiğini düşürüyor. Ancak dizüstü bilgisayar, macOS ve 29 GB söylemleri yayımlanmış kodun önüne geçmiş durumda. Ayrıca Edge0'ın yayımladığı tabloda Q3_K'nin kalite sonuçları ayrı olarak verilmemiş.

Sık sorulan sorular

Edge0-145B bir dizüstü bilgisayarda çalışır mı?

Yalnızca yaklaşık 24 GB VRAM'e, en az 32 GB RAM'e ve 120 GB NVMe depolamaya sahip üst seviye bir NVIDIA dizüstünde; Linux veya Windows ve CUDA 13 ile çalışabilir. 8 GB ya da 16 GB'lık ultrabook'lar 145B sürümünü çalıştıramaz. Modelin indirme boyutu 105,4 GB, VRAM kullanımı ise 23 GiB'nin üzerinde.

Edge0-145B Mac'te çalışıyor mu?

13 Kasım 2026 itibarıyla platform tablosunda desteklenen bir macOS sürümü görünmüyor. M2 Ultra sonuçları yalnızca Metal ölçümlerinden ibaret.

Ollama, llama.cpp veya LM Studio ile çalışıyor mu?

Hayır. Standart sürümler özel experts.bin paketlerini yükleyemiyor; iskelet GGUF dosyasında da yönlendirmeli uzman ağırlıkları bulunmuyor. edge0-infer serve komutunu veya Windows Chat uygulamasını kullanmanız gerekiyor.

Edge0-145B, Qwen3.8-Flash-Next'ten daha mı iyi?

Edge0'ın testlerinde DeepSWE'de 64,6'ya karşı 58,7 ve Terminal-Bench'te 86,52'ye karşı 83,3 puanla önde. HLE'de 35,4'e karşı 35,9 ve GPQA-Diamond'da 90,4'e karşı 91,7 puanla geride. Bağımsız testler henüz beklemede.

Edge0-145B'yi ticari olarak kullanabilir miyim?

Çıktıları kullanabilirsiniz. Ancak topluluk lisansı kapsamında modeli satmak, ücretli servis çalıştırmak ya da ticari bir kodlama veya ofis asistanı sunmak için ayrıca yazılı izin gerekiyor; Qwen koşulları da geçerli.