ERNIE-5.5-Flash-Base için resmi bir API fiyatlandırması yok; çünkü Baidu barındırılan bir uç nokta veya fiyat tarifesi yayımlamadı. 280B parametreli checkpoint, 5 Kasım 2026'da kısıtlayıcı bir lisansla ücretsiz indirilebilir hâle geldi. Ancak modeli çalıştırmak veri merkezi sınıfı GPU'lar gerektiriyor ve özel lisans AB, Birleşik Krallık ile Güney Kore'yi doğrudan kapsam dışında bırakıyor. Kısacası bu, kullanıma hazır bir sohbet API'si değil; araştırma amaçlı bir temel model.
İndirdiğiniz dosyanın içeriği ne?
ERNIE-5.5-Flash-Base, ön eğitim tamamlandığında alınmış checkpoint. Orta eğitim veya son eğitim aşamalarından geçirilmemiş. Baidu bunu açıkça belirtiyor: Son eğitimden geçirilmiş ERNIE 5.5 Flash modeli "gelecek", ancak bunun için bir tarih verilmiyor. Elinizdeki model metin devam ettirme yapıyor; talimat takibi, sohbet şablonu, araç kullanımı ve güvenlik ayarı bulunmuyor.
Modelin öne çıkan teknik özellikleri şöyle: Toplam 280 milyar parametre, token başına etkinleşen 14 milyar parametre ve Muon optimizer kullanılarak FP8 karma hassasiyetle sıfırdan eğitilmiş 33,5 trilyon token. Hugging Face üzerindeki safetensors dosyalarının toplamı yaklaşık 286,2 milyar parametreye denk geliyor; bu da Baidu'nun açıkladığı 280B değerinin biraz üzerinde.
| Özellik | ERNIE-5.5-Flash-Base |
|---|---|
| Mimari | Sparse MoE, 43 katman (1 dense + 42 Multi-Router Latent MoE) |
| Uzmanlar | 512 yönlendirmeli uzman, token başına ilk 10 + 1 ortak uzman |
| Gizli katman / kelime dağarcığı | 4.096 hidden, 201.216 token'lık BPE sözlüğü |
| Dikkat mekanizması | 37 Heavily Compressed Attention katmanı + 6 MLA-DSA katmanı, 64 başlık |
| Eğitim bağlamı | 131.072 token |
| Çıkarım yapılandırması | İnce ayar ve çıkarım için 1.048.576 token |
| Formatlar | Hugging Face ve ModelScope üzerinde FP8 ve BF16 safetensors |
| Modalite | Yalnızca metin girdi / metin çıktı |
Heavily Compressed Attention, çoğu katmanda 128 token'lık her blok için tek bir cache kaydı tutuyor. Yedi katmandan yalnızca biri tam bağlamı koruyor. ECHO ise ayrı bir yardımcı model kullanmak yerine son katmanı spekülatif kod çözme için taslak model olarak yeniden değerlendiriyor.
Depoların adları baidu/ERNIE-5.5-Flash-Base ve baidu/ERNIE-5.5-Flash-Base-BF16. Her ikisi de herkese açık olarak listeleniyor; erişim için lisansın kabul edilmesi gerekiyor. Model sayfasında yayımlandığı sırada herhangi bir çıkarım sağlayıcısı görünmüyordu; ModelCap ise sağlayıcı sayısını 0 olarak gösteriyordu.
ERNIE-5.5-Flash-Base API fiyatlandırması: İndirme 0 $, veri merkezi faturası size ait
ERNIE-5.5-Flash-Base için token başına fiyat arıyorsanız kısa cevap şu: Ağırlıklar ücretsiz, ancak milyon token başına yayımlanmış bir ücret yok. Baidu ne fiyat tarifesi ne de barındırılan bir uç nokta sundu. Gerçek maliyet depolama, GPU ve mühendislik süresinden oluşuyor. Baidu fiyatlandırma yapılabilecek bir referans kurulum yayımlamadığı için burada saatlik bulut maliyeti tahmini vermiyoruz.
| Sürüm | Depolama boyutu | Ne sığıyor? |
|---|---|---|
| FP8 | Diskte yaklaşık 304 GB (yaklaşık 283 GiB) | Gerçekçi minimum sunum hedefi |
| BF16 | Diskte yaklaşık 573 GB (yaklaşık 534 GiB) | FP8'den kabaca 251 GiB daha büyük |
Baidu'nun başlangıç örnekleri 4 yönlü paralellik varsayıyor. Pratikte aşağıdaki kapasite değerlerini taban seviye olarak düşünün; bunlar bellek hesabına dayanıyor ve Baidu tarafından bütünüyle doğrulanmış değil:
| Kurulum | Bellek durumu | FP8 kapasite tahmini |
|---|---|---|
| 4x H100 80 GB (320 GB) | Sınırda | Ağırlıklar yaklaşık 283 GiB yer kaplıyor; Baidu tek istekte 262K token seviyesine çıkıyor, eşzamanlı sunum için 32K'da kalın |
| 8x H100 80 GB (640 GB) | Çalışabilir | FP8 sunumu için yaygın bulut kurulumu |
| 4x H200 141 GB (564 GB) | Rahat | Baidu'nun 4 GPU'lu tarifleriyle uyumlu |
| 4x B200 / GB200 (her biri 180-192 GB) | Evet | 1M denemelerinin tamamı için doğrulanmış yol |
| Mac Studio 512 GB | Teorik olarak RAM'e sığıyor | Yayınlandığı sırada MLX, llama.cpp veya Ollama tarafından desteklenmiyordu |
Baidu'nun belgelediği kurulumlarda 1.048.576 token'lık tam bağlam, 4x80 GB kartlara sığmıyor: 4xH100 tarifi, eşzamanlı kullanım için boşluk bırakmadan ve bellek kullanımını 0,93'e çıkararak tek istekte 262.144 token seviyesinde kalıyor. 1M token'lık tarif ise 0,85 kullanım oranı ve azaltılmış eşzamanlılıkla Blackwell'i hedefliyor. 4xH100 üzerinde birden fazla isteği üretimde çalıştıracaksanız 32K veya daha kısa bir bağlam kullanın. Eğitim 128K'da sona erdiği için 128K üzerindeki davranışın ayrıca ayarlanması ve test edilmesi gerekiyor. Teknik profilde yer alan tam model SFT referans kurulumu 64x GB300 (16 düğüm x 4).
Self-hosting için asıl gerekçe, kanıtlanmış bir token maliyeti avantajından çok veri kontrolü veya son eğitim ihtiyacı olmalı.
Lisans, VRAM'den daha fazla ekibi kapsam dışında bırakıyor
Ağırlıklar Apache 2.0 veya MIT yerine ERNIE 5.5 Flash Base Model License Agreement v1.0 kapsamında yayımlanıyor.
- Bölgesel kapsam dünya genelinde geçerli; ancak AB, Birleşik Krallık ve Güney Kore hariç. 5.3. bölüm, çıktılarının lisanslı bölge dışında kullanılmasını da kısıtlıyor.
- İlgili yıllık geliri 50 milyon $ veya daha az olan ticari kullanımlarda, bağlı şirketler genelinde toplama yapılıyor ve ürünün toplam geliri hesaba katılıyor. İlk kullanımdan önce Baidu'ya tek seferlik e-posta bildirimi gönderilmesi ve arayüzde, Hakkında sayfasında veya API belgelerinde belirgin bir "Powered by ERNIE" ibaresi kullanılması gerekiyor.
- 50 milyon $ üzerindeki ticari kullanım için önceden yazılı izin alınmalı. Başvuru yapmak tek başına kullanım izni vermiyor.
- Çıktılar, materyaller ve türevler, bir ERNIE türevi dışında başka bir yapay zekâ modelini geliştirmek için kullanılamıyor. Nicemlenmiş ve ince ayarlı sürümler de lisansın şartlarını devralıyor.
- Hong Kong hukukuna tabi ve "OLDUĞU GİBİ" sunuluyor.
Yerel geliştiriciler bu kısıtlamaları yayımdan yalnızca birkaç saat sonra fark etti:
"Baidu'nun yeni açık modeli, Baidu'nun kendi tablosunda DeepSeek'i geride bırakıyor; ancak AB'de çalışıyorsanız lisans bunu kullanmanıza izin vermiyor." — @MartinSzerment, X
r/LocalLLaMA başlığında henüz gerçek trafik sunan kimse yoktu. Tartışmalar daha çok donanım uyumluluğu, GGUF'un ne zaman geleceği ve instruct sürümünün çıkış tarihi etrafında dönüyordu.
DeepSeek V4 Flash Base, Hy3 ve MiMo karşısında benchmark sonuçları
Tüm sonuçlar Baidu tarafından ortak prompt'lar ve few-shot ayarları kullanılan tek bir pipeline üzerinde elde edildi. Yayınlandığı sırada bağımsız bir tekrar bulunmuyordu. ModelCap, modeli 352 model arasında geçici olarak 127. sırada değerlendiriyor; Index skoru 51,2, bağımsız kanıt payı %0 ve destek oranı %15,1. Bu nedenle tabloyu kesin bir sıralama değil, üretici sinyali olarak okuyun.
Baidu'nun 30 satırlık tam tablosunda ERNIE, 24 satırda en yüksek skoru alırken 6 satırda geride kalıyor: ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank ve InfiniteBench. Yalnızca DeepSeek-V4-Flash-Base ile kafa kafaya karşılaştırıldığında 30 satırın 26'sında önde; yalnızca ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank ve InfiniteBench'te kaybediyor. Aşağıdaki özet, en iyi olduğu 6 karşılaşmanın tamamı dâhil 15 önemli satırı gösteriyor.
| Benchmark | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
DeepSeek karşısındaki en büyük fark kodlama sonuçlarında görülüyor. Uzun bağlam tarafında ise tablo ikiye bölünüyor: ERNIE RepoQA'da öne geçerken HELMET-Rerank ve InfiniteBench'te geride kalıyor. Baidu'nun karşılaştırması DeepSeek V4 Flash Base ile yapılmış; daha yeni V4.1 serisiyle değil. Ayrıca temel model skorları talimat takibi veya araç kullanımı hakkında bir şey söylemiyor. 1M bağlam desteği yapılandırmada etkin olsa da eğitimle doğrulanmış değil.
Bir hafta sonunu harcamadan nasıl çalıştırılır?
/v1/chat/completions yerine /v1/completions kullanın. Sohbet şablonu yok. Ham prompt'u BOS token'ıyla (add_special_tokens=True) gönderin; gerçeklik odaklı testlerde sıcaklığı 0'a çekin ve talimat vermek yerine few-shot örüntülerinden yararlanın. Çıktı dağılıyorsa daha fazla örnek ve "\nQ:" gibi bir durdurma dizisi ekleyin. Temel model davranışı için bu beklenen bir durum.
vLLM yolu (tam olarak 0.32.0 sürümü ve temiz bir ortamda Baidu eklentisi gerekiyor):
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
SGLang yolu:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported— eklenti veya imaj sürümü yanlış. vLLM 0.32.0 ile eklentiyi ya da geliştirme SGLang imajını kullanın.- Chat-template hatası —
/v1/chat/completionsçağırdınız;/v1/completions'a geçin. - 4x80 GB üzerinde OOM — FP8 ağırlıkları kartları dolduruyor. Eşzamanlı sunumda bağlamı 32K'ya düşürün veya 8xH100 / 4xH200'e geçin.
- İndirme reddedildi — Hugging Face hesabınızla giriş yapın, lisansı kabul edin veya izin verilen bir bölgeden ModelScope'u deneyin.
- Yayınlandığı sırada GGUF / Ollama / LM Studio / MLX desteği yoktu — yayın tarihinde belgelenen destek durumu bu yöndeydi.
Uğraşmaya değer mi, yoksa barındırılan bir flash model mi seçmeli?
| Ekip | Tercih |
|---|---|
| AB/BK/Güney Kore dışında bulunan, çoklu GPU bütçesine sahip araştırma veya son eğitim ekibi | SFT ve RL için temiz bir 280B/14B başlangıç noktası olarak ERNIE-5.5-Flash-Base |
| Bu hafta sohbet, araçlar veya ajanlar sunması gereken uygulama geliştiricisi | DeepSeek V4.1 Flash veya GLM-5.3 Flash gibi barındırılan bir instruct modeli |
| AB / Birleşik Krallık / Güney Kore'de dağıtım yapan veya Baidu evrak işleriyle uğraşmak istemeyen 50 milyon $ üzeri ürüne sahip ekip | Lisans şartları değişene kadar ERNIE Base'i pas geçin |
| GGUF bekleyen dizüstü veya tek GPU ekibi | Bekleyin; yayımlandığında tüketici donanımına yönelik sürüm yoktu |
Asıl belirsizlik zamanlama. Instruct sürümü de aynı bölgesel ve gelir kısıtlarıyla gelirse, güçlü temel model skorları üretim ekiplerinin çoğuna yardımcı olmayacak.
İlgili içerikler: DeepSeek V4.1 Flash API fiyatlandırması, GLM-5.3 Flash API fiyatlandırması, Hy4 preview API fiyatlandırması.
ERNIE-5.5-Flash-Base SSS
ERNIE-5.5-Flash-Base için resmi Baidu barındırmalı API var mı?
Hayır. Baidu ağırlıkları SGLang ve vLLM tarifleriyle birlikte yayımladı; ancak token başına fiyat tarifesi sunmadı. Yayın tarihinde modeli sunan herhangi bir çıkarım sağlayıcısı da yoktu.
ERNIE-5.5-Flash-Base milyon token başına ne kadar tutuyor?
Yayımlanmış bir fiyat yok. İndirme, özel lisans koşulları altında ücretsiz; asıl maliyet yaklaşık 286 milyar parametreyi, KV cache'i ve operasyon süreçlerini self-host etmekten geliyor.
ERNIE-5.5-Flash-Base açık kaynak mı?
Hayır. Model, bölge, gelir, atıf ve distillation yasağı içeren özel Baidu lisansı altında açık ağırlık olarak sunuluyor; OSI anlamında açık kaynak değil.
AB, Birleşik Krallık veya Güney Kore'de kullanılabilir mi?
Hayır. Lisans, materyallerin, türevlerin ve çıktıların bu bölgelerde kullanılmasını kapsam dışında bırakıyor.
Sohbet veya instruct sürümü var mı?
Yayınlandığı sırada yoktu. Checkpoint yalnızca ön eğitim aşamasını içeriyor; Baidu, son eğitimden geçirilmiş ERNIE 5.5 Flash sürümünün geleceğini söylüyor ancak tarih vermiyor.