Pour ERNIE-5.5-Flash-Base, il n’existe tout simplement pas de grille tarifaire officielle : Baidu n’a publié ni endpoint hébergé ni prix à la requête. Les poids sont téléchargeables gratuitement depuis le 5 novembre 2026, mais faire tourner ce checkpoint de 280B nécessite des GPU de datacenter. Et la licence personnalisée interdit purement et simplement son utilisation dans l’UE, au Royaume-Uni et en Corée du Sud. On parle donc d’un modèle de recherche, pas d’une API de chat prête à brancher.
Ce que vous téléchargez réellement
ERNIE-5.5-Flash-Base correspond au checkpoint extrait à la fin du pré-entraînement, avant toute phase de mid-training ou de post-entraînement. Baidu le précise noir sur blanc : la version post-entraînée ERNIE 5.5 Flash « suivra », sans date annoncée. Vous obtenez donc de la continuation de texte, pas un modèle conçu pour suivre des consignes : aucun template de chat, aucun appel d’outils et aucun réglage de sécurité.
La fiche technique annonce 280 milliards de paramètres au total, dont 14 milliards activés par token. Le modèle a été entraîné depuis zéro sur 33,5 T de tokens avec l’optimiseur Muon, en précision mixte FP8. Les fichiers safetensors répertoriés sur Hugging Face totalisent environ 286,2 milliards de paramètres, soit légèrement plus que les 280B mis en avant par Baidu.
| Caractéristique | ERNIE-5.5-Flash-Base |
|---|---|
| Architecture | Sparse MoE, 43 couches (1 dense + 42 Multi-Router Latent MoE) |
| Experts | 512 experts routés, top-10 par token + 1 expert partagé |
| Dimension cachée / vocabulaire | 4 096 dimensions cachées, vocabulaire BPE de 201 216 tokens |
| Attention | 37 couches Heavily Compressed Attention + 6 couches MLA-DSA, 64 têtes |
| Contexte d’entraînement | 131 072 tokens |
| Configuration d’inférence | 1 048 576 tokens pour le fine-tuning et l’inférence |
| Formats | safetensors FP8 et BF16 sur Hugging Face et ModelScope |
| Modalité | Texte en entrée / texte en sortie uniquement |
La technologie Heavily Compressed Attention ne conserve qu’une entrée de cache par bloc de 128 tokens sur la plupart des couches. Seule une couche sur sept conserve le contexte complet. De son côté, ECHO réutilise la dernière couche comme modèle brouillon pour le décodage spéculatif, plutôt que de s’appuyer sur un modèle auxiliaire séparé.
Les dépôts concernés sont baidu/ERNIE-5.5-Flash-Base et baidu/ERNIE-5.5-Flash-Base-BF16. Ils sont publics, mais l’accès est accordé après acceptation de la licence. Au moment de la publication, la page du modèle ne listait aucun fournisseur d’inférence et ModelCap en recensait 0.
Tarifs de l’API ERNIE-5.5-Flash-Base : téléchargement gratuit, facture de datacenter
Vous cherchez un prix par token pour ERNIE-5.5-Flash-Base ? La réponse courte tient en deux points : 0 $ pour les poids, et aucun tarif publié par million de tokens. Baidu n’a communiqué ni grille tarifaire ni endpoint hébergé. Dans les faits, la facture se compose du stockage, des GPU et du temps d’ingénierie. Aucun coût horaire cloud n’est indiqué ici, car Baidu n’a fourni aucun déploiement de référence permettant de faire le calcul.
| Variante | Taille stockée | Ce qui tient en mémoire |
|---|---|---|
| FP8 | ~304 Go sur disque (~283 Gio) | Cible minimale réaliste pour servir le modèle |
| BF16 | ~573 Go sur disque (~534 Gio) | Environ 251 Gio de plus que le FP8 |
Les exemples de lancement de Baidu partent d’un parallélisme sur 4 GPU. En pratique, considérez ces estimations de capacité comme un plancher, fondé sur la mémoire et non entièrement validé par Baidu :
| Configuration | Mémoire | Estimation de capacité en FP8 |
|---|---|---|
| 4x H100 80 Go (320 Go) | Juste | Les poids occupent ~283 Gio ; Baidu atteint 262K tokens sur une requête, mais limitez-vous à 32K pour servir plusieurs requêtes |
| 8x H100 80 Go (640 Go) | Exploitable | Configuration cloud courante pour servir le modèle en FP8 |
| 4x H200 141 Go (564 Go) | Confortable | Correspond aux recettes de déploiement sur 4 GPU de Baidu |
| 4x B200 / GB200 (180-192 Go chacun) | Oui | Configuration validée pour tenter d’atteindre 1 million de tokens |
| Mac Studio 512 Go | Tient sur le papier en mémoire vive | Non pris en charge par MLX, llama.cpp ou Ollama au lancement |
Dans les recettes documentées par Baidu, le contexte complet de 1 048 576 tokens ne tient pas sur 4 cartes de 80 Go : la configuration 4xH100 atteint 262 144 tokens sur une requête, avec une utilisation mémoire de 0,93 et aucune marge pour la concurrence. La recette à 1 million de tokens vise plutôt Blackwell, avec une utilisation de 0,85 et une concurrence réduite. Pour servir plusieurs requêtes sur 4xH100, restez à 32K ou moins. L’entraînement s’est arrêté à 128K : au-delà, il faudra donc prévoir davantage de réglages et de tests. La configuration SFT du modèle complet présentée dans le profil technique repose sur 64x GB300 (16 nœuds x 4).
L’auto-hébergement se justifie surtout pour garder le contrôle des données ou effectuer du post-entraînement, pas pour profiter d’un avantage démontré sur le coût par token.
La licence risque de bloquer plus d’équipes que la VRAM
Les poids sont distribués sous l’ERNIE 5.5 Flash Base Model License Agreement v1.0, et non sous Apache 2.0 ou MIT.
- Le territoire couvert est mondial, à l’exception de l’UE, du Royaume-Uni et de la Corée du Sud. La section 5.3 limite également l’utilisation des sorties en dehors du territoire autorisé.
- Une utilisation commerciale avec un chiffre d’affaires annuel connexe inférieur ou égal à 50 M$ (revenus cumulés entre sociétés affiliées, en prenant en compte le chiffre d’affaires total du produit) exige d’envoyer un e-mail ponctuel à Baidu avant la première utilisation, ainsi que d’afficher clairement la mention « Powered by ERNIE » dans l’interface, la page À propos ou la documentation de l’API.
- Au-delà de 50 M$ de chiffre d’affaires commercial, une autorisation écrite préalable est nécessaire. Faire une demande ne vaut pas autorisation.
- Les sorties, matériaux et dérivés ne peuvent pas servir à améliorer un autre modèle d’IA, sauf s’il s’agit d’un dérivé d’ERNIE. Les versions quantifiées et fine-tunées restent soumises à la licence.
- Le modèle est fourni « EN L’ÉTAT », sous droit hongkongais.
Des développeurs locaux ont relevé le problème quelques heures seulement après la sortie :
« Le nouveau modèle open de Baidu devance de peu DeepSeek sur le propre graphique de Baidu ; et si vous travaillez dans l’UE, sa licence ne vous autorise pas à l’utiliser. » — @MartinSzerment sur X
Dans le fil r/LocalLLaMA, personne n’avait encore servi de trafic réel. Les discussions portaient surtout sur la compatibilité matérielle, le calendrier de GGUF et la date de sortie de la version instruct.
Benchmarks face à DeepSeek V4 Flash Base, Hy3 et MiMo
Tous les chiffres ont été produits par Baidu avec un pipeline unifié, des prompts communs et des réglages few-shot identiques. Aucune reproduction indépendante n’était disponible au moment de la publication. De son côté, ModelCap classe provisoirement le modèle à la 127e place sur 352, avec un indice de 51,2, une part de preuves indépendantes de 0 % et un niveau de soutien de 15,1 %. Considérez donc ce tableau comme un signal du fournisseur, pas comme un classement définitif.
Le tableau complet de Baidu, qui comporte 30 lignes, place ERNIE en tête dans 24 cas et derrière dans 6 : ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank et InfiniteBench. Face à DeepSeek-V4-Flash-Base uniquement, il mène 26 benchmarks sur 30 et ne perd que ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank et InfiniteBench. L’extrait ci-dessous présente 15 lignes clés, dont les 6 défaites face au meilleur score du benchmark.
| Benchmark | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
Le code est l’écart le plus spectaculaire face à DeepSeek. Le contexte long est plus contrasté : ERNIE s’impose sur RepoQA, mais recule sur HELMET-Rerank et InfiniteBench. Baidu l’a comparé à DeepSeek V4 Flash Base, pas à la gamme V4.1 plus récente. Ces scores sur un modèle de base ne disent rien de son aptitude à suivre des instructions ou à utiliser des outils. Quant au contexte de 1 million de tokens, il est activé par la configuration, mais pas démontré par l’entraînement.
Le faire tourner sans y passer le week-end
Utilisez /v1/completions, et non /v1/chat/completions. Il n’y a pas de template de chat. Envoyez un prompt brut avec un token BOS (add_special_tokens=True), utilisez une température de 0 pour les tests factuels et préférez les exemples few-shot aux consignes classiques. Si le modèle s’égare, ajoutez des exemples et une séquence d’arrêt comme "\nQ:". Ce comportement est normal pour un modèle de base.
Avec vLLM, il faut impérativement la version 0.32.0 et le plugin de Baidu dans un environnement vierge :
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
Avec SGLang :
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported— le plugin ou la version de l’image n’est pas la bonne. Utilisez vLLM 0.32.0 avec le plugin, ou l’image SGLang de développement.- Erreur de template de chat — vous avez appelé
/v1/chat/completions. Passez à/v1/completions. - OOM sur 4x80 Go — les poids FP8 remplissent les cartes. Descendez à un contexte de 32K pour servir plusieurs requêtes, ou passez à 8xH100 / 4xH200.
- Téléchargement refusé — connectez-vous à Hugging Face, acceptez la licence ou essayez ModelScope depuis un territoire autorisé.
- Pas de GGUF / Ollama / LM Studio / MLX au lancement — ces formats et outils étaient documentés comme non pris en charge au moment de la publication.
Faut-il vraiment l’adopter, ou choisir un modèle flash hébergé ?
| Équipe | Choix recommandé |
|---|---|
| Équipe de recherche ou de post-entraînement hors UE/Royaume-Uni/Corée du Sud, avec budget multi-GPU | ERNIE-5.5-Flash-Base comme point de départ 280B/14B propre pour le SFT et le RL |
| Équipe qui doit lancer cette semaine une application avec chat, outils ou agents | Modèle instruct hébergé comme DeepSeek V4.1 Flash ou GLM-5.3 Flash |
| Déploiement dans l’UE, au Royaume-Uni ou en Corée du Sud, ou produit dépassant 50 M$ sans démarches auprès de Baidu | Écartez ERNIE Base tant que la licence n’évolue pas |
| Équipe sur ordinateur portable ou GPU unique qui attend GGUF | Attendez : aucune version grand public n’existait au lancement |
La vraie inconnue concerne le calendrier : si la version instruct reprend les mêmes restrictions territoriales et les mêmes seuils de revenus, les excellents scores du modèle de base ne suffiront pas à convaincre la plupart des équipes de production.
À lire également : tarifs de l’API DeepSeek V4.1 Flash, tarifs de l’API GLM-5.3 Flash, tarifs de l’API Hy4 preview.
FAQ ERNIE-5.5-Flash-Base
Existe-t-il une API officielle ERNIE-5.5-Flash-Base hébergée par Baidu ?
Non. Baidu a publié les poids, ainsi que des recettes de déploiement avec SGLang et vLLM, mais aucun tarif par token. Aucun fournisseur d’inférence ne servait non plus le modèle au moment de la publication.
Combien coûte ERNIE-5.5-Flash-Base par million de tokens ?
Aucun prix n’a été publié. Le téléchargement est gratuit sous cette licence personnalisée ; le coût vient de l’auto-hébergement d’environ 286 milliards de paramètres, du cache KV et de l’exploitation.
ERNIE-5.5-Flash-Base est-il open source ?
Non. Il s’agit d’un modèle à poids ouverts distribué sous une licence Baidu personnalisée, avec des restrictions territoriales, de revenus, d’attribution et de distillation. Elle ne correspond pas à une licence open source reconnue par l’OSI.
Peut-on l’utiliser dans l’UE, au Royaume-Uni ou en Corée du Sud ?
Non. La licence exclut ces territoires pour l’utilisation des matériaux, des dérivés et des sorties.
Existe-t-il une version chat ou instruct ?
Pas au lancement. Le checkpoint contient uniquement le pré-entraînement ; Baidu indique que la version post-entraînée ERNIE 5.5 Flash suivra, sans fournir de date.