Für ERNIE-5.5-Flash-Base gibt es keine offiziellen API-Preise, weil Baidu weder einen gehosteten Endpoint noch eine Preisliste veröffentlicht hat. Die Gewichte wurden am 5. November 2026 kostenlos und unter einer restriktiven Lizenz bereitgestellt. Für den Betrieb des 280B-Checkpoints braucht es allerdings Rechenzentrums-GPUs; außerdem schließt die Lizenz die EU, das Vereinigte Königreich und Südkorea ausdrücklich aus. Das Modell ist eine Forschungsgrundlage, kein fertiger Chat-Endpoint.
Was tatsächlich im Download steckt
ERNIE-5.5-Flash-Base ist der Checkpoint direkt nach dem Pre-Training, also noch vor Mid-Training und Post-Training. Baidu sagt das ausdrücklich: Das nachtrainierte ERNIE 5.5 Flash "will follow", ein Termin steht jedoch nicht fest. Geliefert wird daher Textfortsetzung statt Instruktionsbefolgung – ohne Chat-Template, Tool-Nutzung oder Safety-Tuning.
Die Eckdaten: 280 Milliarden Parameter insgesamt, davon 14 Milliarden pro Token aktiv, trainiert von Grund auf mit 33,5 Billionen Tokens, dem Muon-Optimizer und gemischter FP8-Präzision. Auf Hugging Face summieren sich die Safetensors auf rund 286,2 Milliarden Parameter und liegen damit leicht über Baidus offizieller Angabe von 280B.
| Spezifikation | ERNIE-5.5-Flash-Base |
|---|---|
| Architektur | Sparse MoE, 43 Layer (1 Dense-Layer + 42 Multi-Router-Latent-MoE-Layer) |
| Experten | 512 geroutete Experten, Top-10 pro Token plus 1 gemeinsamer Experte |
| Hidden Size / Vokabular | 4.096 Hidden-Dimensionen, BPE-Vokabular mit 201.216 Tokens |
| Attention | 37 Layer mit Heavily Compressed Attention plus 6 MLA-DSA-Layer, 64 Köpfe |
| Trainingskontext | 131.072 Tokens |
| Inference-Konfiguration | 1.048.576 Tokens für Fine-Tuning und Inferenz |
| Formate | FP8- und BF16-Safetensors auf Hugging Face und ModelScope |
| Modalität | Nur Text rein, Text raus |
Heavily Compressed Attention legt in den meisten Layern nur einen Cache-Eintrag pro 128-Token-Block an. Lediglich jeder siebte Layer behält den vollständigen Kontext. ECHO verwendet den letzten Layer als Draft-Modell für Speculative Decoding, statt ein separates Hilfsmodell einzusetzen.
Die Repositories heißen baidu/ERNIE-5.5-Flash-Base und baidu/ERNIE-5.5-Flash-Base-BF16. Sie sind öffentlich gelistet, der Zugriff wird nach Zustimmung zur Lizenz freigeschaltet. Auf der Modellseite war zum Veröffentlichungszeitpunkt kein Inference-Provider angegeben; bei ModelCap standen 0 Provider.
ERNIE-5.5-Flash-Base API-Preise: 0 $ für den Download, die Rechnung kommt über die GPUs
Wer nach einem Preis pro Token sucht, bekommt eine kurze Antwort: Die Gewichte kosten 0 $, einen veröffentlichten Preis pro Million Tokens gibt es nicht. Baidu hat weder eine Preisliste noch einen gehosteten Endpoint bereitgestellt. In der Praxis bezahlt man für Speicher, GPUs und Entwicklungsaufwand. Eine stündliche Cloud-Schätzung fehlt bewusst, weil Baidu keine Referenzbereitstellung veröffentlicht hat, an der sich ein solcher Preis ausrichten ließe.
| Variante | Speicherbedarf | Was damit möglich ist |
|---|---|---|
| FP8 | ~304 GB auf der SSD (~283 GiB) | Realistisches Minimum für den Betrieb |
| BF16 | ~573 GB auf der SSD (~534 GiB) | Rund 251 GiB mehr als FP8 |
Baidus Startbeispiele setzen auf Parallelisierung über vier GPUs. In der Praxis sollten diese Kapazitätsangaben als Untergrenze verstanden werden – sie basieren auf dem Speicherbedarf und sind nicht vollständig von Baidu validiert:
| Setup | Speicher | Kapazitätsschätzung für FP8 |
|---|---|---|
| 4x H100 80 GB (320 GB) | Knapp | Die Gewichte belegen ~283 GiB; Baidu erreicht bei einer Anfrage 262K Tokens, für parallele Anfragen sollten 32K angesetzt werden |
| 8x H100 80 GB (640 GB) | Machbar | Übliche Cloud-Konfiguration für FP8-Betrieb |
| 4x H200 141 GB (564 GB) | Komfortabel | Entspricht Baidus Rezepten mit vier GPUs |
| 4x B200 / GB200 (je 180–192 GB) | Ja | Validierter Weg für Versuche mit 1M Kontext |
| Mac Studio 512 GB | Passt theoretisch in den Arbeitsspeicher | Bei der Veröffentlichung von MLX, llama.cpp und Ollama nicht unterstützt |
In Baidus dokumentierten Konfigurationen passt der vollständige Kontext von 1.048.576 Tokens nicht auf vier Karten mit jeweils 80 GB: Das 4xH100-Rezept erreicht bei einer Einzelanfrage 262.144 Tokens und eine Speicherauslastung von 0,93 – ohne Reserven für parallele Anfragen. Das 1M-Rezept zielt auf Blackwell mit 0,85 Auslastung und reduzierter Parallelität. Für mehrere Anfragen auf 4xH100 sollte der Kontext bei 32K oder darunter bleiben. Das Training endete bei 128K; alles darüber braucht zusätzliches Tuning und Tests. Das Referenz-Setup für vollständiges Modell-SFT im technischen Profil besteht aus 64x GB300 (16 Knoten x 4).
Self-Hosting lohnt sich damit vor allem wegen Datenkontrolle oder eigener Post-Training-Anforderungen – nicht wegen eines nachgewiesenen Vorteils bei den Token-Kosten.
Die Lizenz ist für viele Teams ein größeres Hindernis als der VRAM-Bedarf
Die Gewichte stehen unter dem ERNIE 5.5 Flash Base Model License Agreement v1.0, nicht unter Apache 2.0 oder MIT.
- Der Geltungsbereich ist weltweit, ausgenommen EU, Vereinigtes Königreich und Südkorea. Abschnitt 5.3 schränkt außerdem die Nutzung von Outputs außerhalb des lizenzierten Gebiets ein.
- Kommerzielle Nutzung bis einschließlich 50 Millionen Dollar verwandtem Jahresumsatz – über verbundene Unternehmen aggregiert und mit dem gesamten Produktumsatz – erfordert vor der ersten Nutzung eine einmalige E-Mail-Benachrichtigung an Baidu sowie den deutlich sichtbaren Hinweis "Powered by ERNIE" in der Benutzeroberfläche, auf der About-Seite oder in der API-Dokumentation.
- Bei kommerzieller Nutzung oberhalb von 50 Millionen Dollar ist eine vorherige schriftliche Genehmigung nötig. Ein Antrag allein berechtigt noch nicht zur Nutzung.
- Outputs, Materialien und Ableitungen dürfen nicht zum Verbessern eines anderen KI-Modells verwendet werden, außer bei einer ERNIE-Ableitung. Quantisierte und feinjustierte Varianten bleiben an die Lizenz gebunden.
- Die Bereitstellung erfolgt "AS IS" nach dem Recht von Hongkong.
Lokale Entwickler wiesen bereits wenige Stunden nach der Veröffentlichung darauf hin:
"Baidu's new open model edges out DeepSeek on Baidu's own chart, and if you work in the EU, its licence doesn't let you use it." — @MartinSzerment auf X
Im r/LocalLLaMA-Thread hatte zu diesem Zeitpunkt noch niemand echten Traffic über das Modell abgewickelt. Diskutiert wurden vor allem die passende Hardware, der Zeitpunkt für GGUF und der Termin einer Instruct-Version.
Benchmarks gegen DeepSeek V4 Flash Base, Hy3 und MiMo
Alle Werte stammen aus Baidus eigener Messung mit einer einheitlichen Pipeline, gemeinsamen Prompts und Few-Shot-Einstellungen. Zum Veröffentlichungszeitpunkt gab es keine unabhängige Reproduktion. ModelCap führt das Modell vorläufig auf Platz 127 von 352, mit einem Index von 51,2, einem Anteil unabhängiger Belege von 0 % und einer Abdeckung von 15,1 %. Die Tabelle ist daher eher ein Signal des Anbieters als eine belastbare Rangliste.
Baidus vollständige Tabelle mit 30 Zeilen sieht ERNIE in 24 Disziplinen an der Spitze und in 6 hinten: ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank und InfiniteBench. Im direkten Vergleich mit DeepSeek-V4-Flash-Base führt ERNIE in 26 von 30 Tests und verliert nur bei ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank und InfiniteBench. Der folgende Auszug zeigt 15 zentrale Zeilen, darunter alle 6 Niederlagen im Best-in-Field-Vergleich.
| Benchmark | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
Der größte Abstand zu DeepSeek zeigt sich beim Programmieren. Beim langen Kontext ist das Bild gemischt: ERNIE gewinnt RepoQA, verliert aber HELMET-Rerank und InfiniteBench. Baidu verglich mit DeepSeek V4 Flash Base, nicht mit der neueren V4.1-Reihe. Base-Modellwerte sagen außerdem nichts über Instruktionsbefolgung oder Tool-Nutzung aus; der 1M-Kontext ist lediglich konfigurierbar und nicht durch das Training belegt.
So läuft das Modell, ohne ein ganzes Wochenende zu verlieren
Verwende /v1/completions, nicht /v1/chat/completions. Es gibt kein Chat-Template. Sende einen rohen Prompt mit einem BOS-Token (add_special_tokens=True), nutze für faktische Tests Temperatur 0 und arbeite mit Few-Shot-Beispielen statt mit Instruktionen. Wenn die Ausgabe abschweift, helfen zusätzliche Beispiele und eine Stop-Sequenz wie "\nQ:". Dieses Verhalten ist bei einem Basismodell erwartbar.
Weg über vLLM (erfordert exakt 0.32.0 plus Baidus Plugin in einer frischen Umgebung):
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
Weg über SGLang:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported– Plugin oder Image-Version stimmt nicht. Verwende vLLM 0.32.0 zusammen mit dem Plugin oder das Developer-SGLang-Image.- Fehler wegen des Chat-Templates – du hast
/v1/chat/completionsaufgerufen. Wechsle zu/v1/completions. - OOM auf 4x80 GB – die FP8-Gewichte belegen die Karten vollständig. Für parallele Anfragen den Kontext auf 32K reduzieren oder auf 8xH100 beziehungsweise 4xH200 wechseln.
- Download verweigert – bei Hugging Face anmelden, die Lizenz akzeptieren oder aus einem erlaubten Gebiet ModelScope verwenden.
- Bei der Veröffentlichung gab es kein GGUF, Ollama, LM Studio oder MLX – dies war zum Veröffentlichungszeitpunkt als nicht unterstützt dokumentiert.
Selbst betreiben oder lieber ein gehostetes Flash-Modell wählen?
| Team | Empfehlung |
|---|---|
| Forschungs- oder Post-Training-Team außerhalb von EU, UK und KR mit Multi-GPU-Budget | ERNIE-5.5-Flash-Base als saubere 280B/14B-Ausgangsbasis für SFT und RL |
| App-Entwickler, die noch diese Woche Chat, Tools oder Agenten brauchen | Gehostetes Instruct-Modell wie DeepSeek V4.1 Flash oder GLM-5.3 Flash |
| Deployment in EU, UK oder KR oder ein Produkt mit >50 Millionen Dollar Umsatz ohne Baidus Papierkram | ERNIE Base überspringen, bis sich die Lizenz ändert |
| Laptop- oder Single-GPU-Team, das auf GGUF wartet | Warten; bei der Veröffentlichung gab es keine Consumer-Builds |
Die entscheidende offene Frage ist der Zeitpunkt: Falls die Instruct-Version dieselben territorialen und umsatzbezogenen Bedingungen übernimmt, helfen auch starke Base-Modellwerte den meisten Produktionsteams nicht weiter.
Weiterführend: DeepSeek V4.1 Flash API-Preise, GLM-5.3 Flash API-Preise, Hy4-preview API-Preise.
ERNIE-5.5-Flash-Base FAQ
Gibt es eine offizielle, von Baidu gehostete API für ERNIE-5.5-Flash-Base?
Nein. Baidu hat die Gewichte samt SGLang- und vLLM-Rezepten veröffentlicht, aber keine Preisliste pro Token. Zum Veröffentlichungszeitpunkt bot außerdem kein Inference-Provider das Modell an.
Wie viel kostet ERNIE-5.5-Flash-Base pro Million Tokens?
Dazu wurde nichts veröffentlicht. Der Download ist unter der individuellen Lizenz kostenlos; die tatsächlichen Kosten entstehen durch das Self-Hosting von rund 286 Milliarden Parametern, den KV-Cache und den Betrieb.
Ist ERNIE-5.5-Flash-Base Open Source?
Nein. Es handelt sich um Open Weights unter einer eigenen Baidu-Lizenz mit Vorgaben zu Territorien, Umsatz, Attribution und Distillation. Nach OSI-Definition ist das keine Open-Source-Lizenz.
Darf das Modell in der EU, im Vereinigten Königreich oder in Südkorea eingesetzt werden?
Nein. Die Lizenz schließt diese Gebiete von der Nutzung der Materialien, Ableitungen und Outputs aus.
Gibt es eine Chat- oder Instruct-Version?
Bei der Veröffentlichung nicht. Der Checkpoint umfasst nur das Pre-Training; Baidu zufolge soll das nachtrainierte ERNIE 5.5 Flash folgen, allerdings ohne Terminangabe.