AIREITER

Recensione dei prezzi API di ERNIE-5.5-Flash-Base (2026): API non ancora disponibile

Ultimo Aggiornamento: 2026-11-06 07:41:02

Non esiste un prezzo ufficiale per l'API di ERNIE-5.5-Flash-Base: Baidu non ha pubblicato né un endpoint ospitato né un listino. I pesi sono stati messi a disposizione gratuitamente il 5 novembre 2026, ma per eseguire il checkpoint da 280B servono GPU da datacenter e la licenza personalizzata ne vieta esplicitamente l'uso nell'UE, nel Regno Unito e in Corea del Sud. È un modello base pensato per la ricerca, non un endpoint chat pronto all'uso.

Cosa si scarica davvero

ERNIE-5.5-Flash-Base è il checkpoint ottenuto al termine del pre-training, prima delle fasi di mid-training e post-training. Baidu lo dichiara senza ambiguità: la versione post-trained di ERNIE 5.5 Flash "will follow", ma senza indicare una data. Il modello genera continuazioni di testo: non segue istruzioni, non include un template per la chat, non supporta strumenti e non ha ricevuto alcun safety tuning.

Le specifiche principali parlano di 280B di parametri totali, con 14B attivati per token, addestrati da zero su 33,5T token usando l'ottimizzatore Muon in precisione mista FP8. I file safetensors su Hugging Face arrivano complessivamente a circa 286,2B parametri, quindi leggermente oltre il valore di 280B dichiarato da Baidu.

SpecificheERNIE-5.5-Flash-Base
ArchitetturaSparse MoE, 43 layer (1 denso + 42 Multi-Router Latent MoE)
Expert512 instradati, top-10 per token + 1 expert condiviso
Dimensione hidden / vocabolarioHidden da 4.096, vocabolario BPE da 201.216 token
Attenzione37 layer Heavily Compressed Attention + 6 layer MLA-DSA, 64 head
Contesto di training131.072 token
Configurazione di inferenza1.048.576 token per fine-tuning e inferenza
FormatiSafetensors FP8 e BF16 su Hugging Face e ModelScope
ModalitàSolo testo in ingresso e testo in uscita

La Heavily Compressed Attention memorizza nella maggior parte dei layer una sola voce di cache per ogni blocco da 128 token; soltanto un layer su sette conserva il contesto completo. ECHO riutilizza il layer finale come modello draft per la speculative decoding, senza ricorrere a un modello ausiliario separato.

Pagina ufficiale di rilascio di Baidu ERNIE-5.5-Flash-Base con specifiche e opzioni di download

I repository sono baidu/ERNIE-5.5-Flash-Base e baidu/ERNIE-5.5-Flash-Base-BF16. Sono pubblici, ma l'accesso viene concesso solo dopo aver accettato la licenza. Al momento della pubblicazione, la pagina del modello non indicava alcun provider di inferenza e ModelCap ne mostrava 0.

Prezzi API di ERNIE-5.5-Flash-Base: download gratuito, conto da datacenter

Se cercavi un prezzo per token dell'API di ERNIE-5.5-Flash-Base, la risposta breve è: 0 $ per i pesi e nessuna tariffa pubblicata per milione di token. Baidu non ha diffuso né un listino né un endpoint ospitato. Il costo concreto è quello di storage, GPU e tempo di sviluppo. Qui non troviamo una stima oraria del cloud, perché Baidu non ha pubblicato un deployment di riferimento su cui basarla.

VarianteSpazio occupatoCosa può contenere
FP8~304 GB su disco (~283 GiB)Obiettivo minimo realistico per il serving
BF16~573 GB su disco (~534 GiB)Circa 251 GiB in più rispetto a FP8

Gli esempi di lancio di Baidu presuppongono un parallelismo a 4 vie. Nella pratica, queste stime di capacità vanno considerate come il limite minimo: sono calcoli basati sulla memoria e non sono state tutte validate da Baidu.

ConfigurazioneMemoriaStima della capacità in FP8
4x H100 80 GB (320 GB)Al limiteI pesi occupano ~283 GiB; Baidu raggiunge 262K con una singola richiesta, ma per il serving concorrente è meglio restare a 32K
8x H100 80 GB (640 GB)UtilizzabileConfigurazione cloud comune per il serving in FP8
4x H200 141 GB (564 GB)Senza problemiCorrisponde alle ricette a 4 GPU di Baidu
4x B200 / GB200 (180-192 GB ciascuna)SìPercorso validato per tentare il contesto completo da 1M
Mac Studio 512 GBSulla carta entra nella RAMAl momento del rilascio non era supportato da MLX, llama.cpp o Ollama

Nelle ricette documentate da Baidu, il contesto completo da 1.048.576 token non entra in 4 schede da 80 GB: la configurazione 4xH100 arriva a 262.144 token con una singola richiesta, utilizzando lo 0,93 della memoria e senza margine per la concorrenza; la ricetta da 1M punta invece a Blackwell, con utilizzo dello 0,85 e concorrenza ridotta. Per gestire più richieste su 4xH100, conviene restare a 32K o meno. Il training si è fermato a 128K, quindi il comportamento oltre questa soglia richiede ulteriore tuning e test. La configurazione di riferimento per il full-model SFT indicata nel profilo tecnico è 64x GB300 (16 nodi x 4).

Il self-hosting ha senso soprattutto per mantenere il controllo sui dati o per esigenze di post-training, non per un vantaggio dimostrato sul costo per token.

La licenza è un ostacolo più grande della VRAM

I pesi sono distribuiti con la ERNIE 5.5 Flash Base Model License Agreement v1.0, non con Apache 2.0 o MIT.

  • Il territorio coperto è mondiale, fatta eccezione per UE, Regno Unito e Corea del Sud. La sezione 5.3 limita inoltre l'uso degli output al di fuori del territorio autorizzato.
  • Per l'uso commerciale con ricavi annuali correlati pari o inferiori a 50M $ (aggregati tra le affiliate e considerando l'intero fatturato del prodotto) è necessario inviare una comunicazione una tantum via email a Baidu prima del primo utilizzo e mostrare in modo evidente l'attribuzione "Powered by ERNIE" nell'interfaccia, nella pagina About o nella documentazione API.
  • Per l'uso commerciale oltre 50M $ serve un'autorizzazione scritta preventiva. La semplice richiesta non equivale a un permesso.
  • Output, materiali e derivati non possono essere utilizzati per migliorare un altro modello di IA, salvo un derivato di ERNIE. I modelli quantizzati e fine-tuned ereditano la licenza.
  • Il software viene fornito "AS IS" secondo il diritto di Hong Kong.

Gli sviluppatori locali hanno segnalato il problema poche ore dopo il rilascio:

"Il nuovo modello open di Baidu supera di poco DeepSeek nel grafico della stessa Baidu e, se lavori nell'UE, la sua licenza non ti permette di usarlo." — @MartinSzerment su X

Nella discussione su r/LocalLLaMA nessuno aveva ancora gestito traffico reale; le domande riguardavano soprattutto la compatibilità hardware, i tempi per GGUF e la data di uscita della versione instruct.

Benchmark a confronto con DeepSeek V4 Flash Base, Hy3 e MiMo

Tutti i numeri sono stati ottenuti da Baidu con una pipeline unificata, prompt comuni e impostazioni few-shot. Al momento della pubblicazione non esisteva una riproduzione indipendente e ModelCap classificava il modello come provvisorio: posizione #127 su 352, Index 51.2, quota di evidenze indipendenti pari allo 0% e supporto al 15,1%. La tabella va quindi letta come un'indicazione del vendor, non come una classifica definitiva.

La tabella completa di Baidu, composta da 30 righe, assegna a ERNIE il punteggio migliore in 24 casi e lo vede indietro in 6: ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank e InfiniteBench. Nel confronto diretto con DeepSeek-V4-Flash-Base, ERNIE è avanti in 26 test su 30 e perde soltanto su ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank e InfiniteBench. L'estratto seguente mostra 15 righe chiave, comprese tutte e 6 le sconfitte nei test in cui non è il migliore.

BenchmarkERNIE 5.5 Flash BaseDeepSeek-V4-Flash-Base (284B/13B)Hy3-preview-Base (295B/21B)MiMo-V2.5-Base (310B/15B)
MMLU93.389.487.587.6
MMLU-Pro78.469.266.965.7
GPQA60.255.950.251.4
HumanEval+82.369.578.074.4
MBPP+81.567.278.374.3
LiveCodeBench40.131.933.532.4
RepoQA91.781.091.356.5
MGSM (8-shot CoT)87.084.676.983.8
BBH direct77.169.067.568.0
BBH CoT89.287.590.089.8
INCLUDE-lite79.579.877.774.5
FullStackBench54.643.356.754.1
HELMET-Rerank56.260.055.756.6
InfiniteBench46.548.033.046.7
ChineseSimpleQA73.075.373.268.8

La programmazione è il principale punto di forza rispetto a DeepSeek, mentre sul contesto lungo il quadro è più sfumato: ERNIE vince su RepoQA, ma perde su HELMET-Rerank e InfiniteBench. Baidu lo ha confrontato con DeepSeek V4 Flash Base, non con la più recente linea V4.1. I punteggi di un modello base non dicono nulla sulla capacità di seguire istruzioni o usare strumenti; inoltre, il contesto da 1M è abilitato dalla configurazione, non dimostrato dal training.

Come eseguirlo senza buttare via un intero weekend

Usa /v1/completions, non /v1/chat/completions. Non esiste un chat template. Invia un prompt grezzo con un token BOS (add_special_tokens=True), imposta la temperatura a 0 per le verifiche fattuali e preferisci esempi few-shot alle istruzioni. Se l'output divaga, aggiungi esempi e una sequenza di stop come "\nQ:". È il comportamento atteso di un modello base.

Percorso vLLM (richiede esattamente 0.32.0 e il plugin di Baidu in un ambiente nuovo):

pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
  --kv-cache-dtype fp8 \
  --enable-expert-parallel \
  --data-parallel-size 4 \
  --max-model-len 131072 \
  --port 30000 \
  --moe-backend humming

Percorso SGLang:

docker run --gpus all -p 30000:30000 \
  lmsysorg/sglang:dev-ernie-55-flash \
  sglang serve \
  --model-path baidu/ERNIE-5.5-Flash-Base \
  --tp 4 --attn-dp-size 4 \
  --context-length 131072 \
  --max-running-requests 1024
  • ernie5_5_moe is not supported — il plugin o la versione dell'immagine non sono corretti; usa vLLM 0.32.0 con il plugin oppure l'immagine di sviluppo SGLang.
  • Errore relativo al chat template — hai chiamato /v1/chat/completions; passa a /v1/completions.
  • OOM su 4x80 GB — i pesi FP8 saturano le schede; scendi a un contesto da 32K per il serving concorrente oppure passa a 8xH100 / 4xH200.
  • Download rifiutato — accedi a Hugging Face, accetta la licenza oppure prova ModelScope da un territorio autorizzato.
  • Nessun GGUF / Ollama / LM Studio / MLX al momento del rilascio — al momento della pubblicazione risultavano non supportati.

Vale la pena provarlo o conviene scegliere un modello flash ospitato?

TeamScelta
Team di ricerca o post-training fuori da UE/Regno Unito/Corea del Sud, con budget per più GPUERNIE-5.5-Flash-Base come base pulita da 280B/14B per SFT e RL
Chi deve sviluppare questa settimana un'app con chat, strumenti o agentiUn modello instruct ospitato, come DeepSeek V4.1 Flash o GLM-5.3 Flash
Deployment in UE, Regno Unito o Corea del Sud, oppure prodotto oltre 50M $ senza la documentazione richiesta da BaiduLascia perdere ERNIE Base finché la licenza non cambia
Team con laptop o una sola GPU in attesa di GGUFAspetta: al momento del rilascio non esistevano build per dispositivi consumer

La questione aperta riguarda le tempistiche: se la versione instruct manterrà gli stessi vincoli territoriali e di fatturato, ottimi risultati sul modello base non basteranno alla maggior parte dei team di produzione.

Per approfondire: prezzi API di DeepSeek V4.1 Flash, prezzi API di GLM-5.3 Flash, prezzi API di Hy4 preview.

Domande frequenti su ERNIE-5.5-Flash-Base

Esiste un'API ufficiale di ERNIE-5.5-Flash-Base ospitata da Baidu?

No. Baidu ha rilasciato i pesi con ricette per SGLang e vLLM, ma senza un listino per token; al momento della pubblicazione nessun provider offriva il modello in inferenza.

Quanto costa ERNIE-5.5-Flash-Base per milione di token?

Non è stato pubblicato alcun prezzo. Il download è gratuito secondo la licenza personalizzata; il costo riguarda il self-hosting di circa 286B di parametri, oltre alla KV cache e alla gestione operativa.

ERNIE-5.5-Flash-Base è open source?

No. È un modello open-weight distribuito con una licenza personalizzata di Baidu che impone vincoli territoriali, di fatturato, attribuzione e divieto di distillazione; non è open source secondo i criteri OSI.

Si può usare nell'UE, nel Regno Unito o in Corea del Sud?

No. La licenza esclude questi territori per l'uso di materiali, derivati e output.

Esiste una versione chat o instruct?

Non al momento del rilascio. Il checkpoint contiene soltanto il pre-training; Baidu afferma che la versione post-trained di ERNIE 5.5 Flash arriverà in seguito, ma senza indicare una data.