目前沒有官方的 ERNIE-5.5-Flash-Base API 定價,因為百度並未提供託管端點或價格表。百度在 2026 年 11 月 5 日釋出可免費下載的模型權重,但採用限制嚴格的授權;而要執行這個 280B 檢查點,需要資料中心級 GPU,授權更直接禁止在歐盟、英國與南韓使用。它是研究用途的基礎模型,不是下載後就能直接接上的聊天 API。
你實際下載的是什麼
ERNIE-5.5-Flash-Base 是預訓練結束時的模型檢查點,尚未經過中期訓練或後訓練。百度對此說得很清楚:經過後訓練的 ERNIE 5.5 Flash「將會推出」,但沒有公布日期。因此你拿到的是文字接續模型,不具備指令遵循、聊天模板、工具使用或安全性調校能力。
規格亮點是總參數量 280B、每個 token 啟用 14B,從零開始以 33.5T tokens 訓練,使用 Muon 最佳化器與 FP8 混合精度。Hugging Face 將 safetensors 檔案加總後估算約 286.2B 參數,略高於百度標示的 280B。
| 規格 | ERNIE-5.5-Flash-Base |
|---|---|
| 架構 | 稀疏 MoE,43 層(1 層 dense + 42 層 Multi-Router Latent MoE) |
| Experts | 512 個路由 expert,每個 token 選 top-10,另加 1 個共用 expert |
| Hidden / 詞彙表 | 4,096 hidden、201,216-token BPE 詞彙表 |
| 注意力 | 37 層 Heavily Compressed Attention + 6 層 MLA-DSA,64 個 heads |
| 訓練上下文 | 131,072 tokens |
| 推論設定 | 1,048,576 tokens,用於微調與推論 |
| 格式 | FP8 與 BF16 safetensors,提供於 Hugging Face 與 ModelScope |
| 模態 | 僅支援文字輸入/文字輸出 |
Heavily Compressed Attention 在大多數層級每 128-token 區塊只儲存一筆 cache,只有每七層中的一層保留完整上下文。ECHO 則把最後一層重複用作 speculative decoding 的草稿模型,不需要另配輔助模型。
模型儲存庫為 baidu/ERNIE-5.5-Flash-Base 與 baidu/ERNIE-5.5-Flash-Base-BF16。兩者都已公開列出,但必須先透過授權條款接受授權後才能存取。發布時的模型頁面沒有列出任何推論服務商,而 ModelCap 顯示的服務商數量為 0。
ERNIE-5.5-Flash-Base API 定價:下載 $0,硬體帳單不會是 $0
如果你搜尋的是按 token 計價的 ERNIE-5.5-Flash-Base API,答案很簡單:模型權重下載費用是 $0,但官方沒有公布每百萬 token 的價格,也沒有提供託管端點。實際支出會落在儲存空間、GPU 與工程人力上。由於百度沒有提供可供估價的參考部署,本篇不列出任何雲端每小時成本。
| 版本 | 儲存大小 | 適用情境 |
|---|---|---|
| FP8 | 磁碟約 304 GB(約 283 GiB) | 實際部署服務的最低目標 |
| BF16 | 磁碟約 573 GB(約 534 GiB) | 比 FP8 約多 251 GiB |
百度公布的啟動範例都假設使用 4 路平行。在實務上,以下容量估算只能視為底線,且是以記憶體計算,並非全部都經過百度驗證:
| 配置 | 記憶體狀況 | FP8 容量估算 |
|---|---|---|
| 4x H100 80 GB(320 GB) | 緊繃 | 權重約佔 283 GiB;百度測得單一請求最高 262K,並行服務建議維持在 32K |
| 8x H100 80 GB(640 GB) | 可行 | FP8 服務常見的雲端配置 |
| 4x H200 141 GB(564 GB) | 充裕 | 符合百度的 4-GPU 配方 |
| 4x B200 / GB200(每張 180-192 GB) | 可以 | 已驗證可嘗試完整 1M 上下文的路徑 |
| Mac Studio 512 GB | 理論上可放入 RAM | 發布時 MLX、llama.cpp 與 Ollama 都不支援 |
按照百度的部署配方,完整的 1,048,576-token 上下文無法放進 4 張 80 GB 顯示卡:4xH100 配方在單一請求 262,144 tokens 時,記憶體使用率已達 0.93,沒有並行餘裕;1M 配方則以 Blackwell 為目標,使用率 0.85,並降低並行度。若要在 4xH100 上處理多個生產請求,建議維持在 32K 或更短。模型訓練只到 128K,因此超過 128K 後的表現仍需要額外調校與測試。技術資料中列出的完整模型 SFT 參考配置,是 64x GB300(16 個節點 x 4)。
自架模型主要是為了資料控管或後訓練需求,並不是因為目前已證明它能降低每 token 成本。
真正限制團隊的,可能是授權而不是 VRAM
模型權重採用ERNIE 5.5 Flash Base Model License Agreement v1.0,並非 Apache 2.0 或 MIT。
- 使用地區是全球,但排除歐盟、英國與南韓。第 5.3 節也限制在授權地區以外使用模型輸出。
- 相關年度營收不超過 $50M 的商業使用(需合併計算關係企業,且產品全部營收都算在內),首次使用前必須以電子郵件通知百度,並在 UI、About 頁面或 API 文件中醒目標示「Powered by ERNIE」。
- 超過 $50M 的商業使用必須事先取得書面授權。提出申請並不代表已獲得許可。
- 不得使用輸出、素材與衍生作品來改進其他 AI 模型,只有 ERNIE 衍生模型例外。量化版本與微調版本同樣受此授權約束。
- 以「現況提供」方式提供,適用香港法律。
模型發布後幾小時內,當地開發者就指出了這些問題:
「百度的新開放模型在百度自己的圖表中略勝 DeepSeek,但如果你在歐盟工作,這份授權不允許你使用它。」——@MartinSzerment 發表於 X
在r/LocalLLaMA 討論串中,當時還沒有人真正承載線上流量;大家關心的是硬體是否放得下、GGUF 何時推出,以及 instruct 版本的發布日期。
與 DeepSeek V4 Flash Base、Hy3、MiMo 的基準測試比較
所有數字都是百度在統一流程上測得,使用共通提示詞與 few-shot 設定。發布時尚未有獨立重現結果,而 ModelCap 將模型暫列為第 127 名(共 352 個模型),Index 為 51.2、獨立證據占比 0%、支援度 15.1%。因此,下面的表格應視為廠商訊號,而不是正式排行榜。
百度完整的 30 項測試中,ERNIE 有 24 項拿到最高分,6 項落後,分別是 ChineseSimpleQA、BBH CoT、INCLUDE-lite、FullStackBench、HELMET-Rerank 與 InfiniteBench。若只和 DeepSeek-V4-Flash-Base 正面比較,ERNIE 在 30 項中領先 26 項,只輸給 ChineseSimpleQA、INCLUDE-lite、HELMET-Rerank 與 InfiniteBench。以下節錄 15 項關鍵測試,包含全部 6 項未能領先的項目。
| 基準測試 | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
和 DeepSeek 的差距主要出現在程式碼能力;長上下文則各有勝負:ERNIE 在 RepoQA 領先,卻輸掉 HELMET-Rerank 與 InfiniteBench。百度比較的是 DeepSeek V4 Flash Base,而不是更新的 V4.1 系列。基礎模型分數無法說明指令遵循或工具使用能力,而 1M 上下文只是設定上可用,並不代表已經由訓練驗證。
如何執行,才不會浪費整個週末
請使用 /v1/completions,不要使用 /v1/chat/completions。模型沒有聊天模板。送出原始提示詞時要帶上 BOS token(add_special_tokens=True);進行事實探測時可將 temperature 設為 0,並以 few-shot 範例取代指令。如果輸出開始漫無邊際地延伸,可以加入更多範例,以及像 "\nQ:" 這樣的停止序列。這是基礎模型的預期行為。
vLLM 路徑(需要剛好使用 0.32.0,並在全新環境中安裝百度的外掛):
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
SGLang 路徑:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported— 外掛或映像版本錯誤;請使用 vLLM 0.32.0 加上該外掛,或改用 SGLang dev 映像。- 聊天模板錯誤 — 你呼叫了
/v1/chat/completions;請改用/v1/completions。 - 4x80 GB 發生 OOM — FP8 權重已經塞滿顯示卡;若要並行服務,將上下文降至 32K,或改用 8xH100/4xH200。
- 下載遭拒 — 登入 Hugging Face、接受授權,或在允許使用的地區改從 ModelScope 下載。
- 發布時沒有 GGUF/Ollama/LM Studio/MLX — 發布時的文件記載為不支援。
該花力氣部署,還是選擇託管的 flash 模型?
| 團隊類型 | 建議選擇 |
|---|---|
| 位於歐盟/英國/南韓以外、擁有多 GPU 預算的研究/後訓練團隊 | 把 ERNIE-5.5-Flash-Base 當作乾淨的 280B/14B 起點,用於 SFT 與 RL |
| 本週就需要聊天、工具或 agent 的應用開發者 | 選擇 DeepSeek V4.1 Flash 或 GLM-5.3 Flash 等託管 instruct 模型 |
| 要在歐盟/英國/南韓部署,或產品營收超過 $50M 但不想處理百度文件 | 在授權條款改變前跳過 ERNIE Base |
| 等待 GGUF 的筆電/單 GPU 團隊 | 先等;發布時還沒有消費級版本 |
目前最大的未知數是時間:如果 instruct 版本沿用相同的地區與營收條款,再漂亮的基礎模型分數,也幫不了大多數生產團隊。
延伸閱讀:DeepSeek V4.1 Flash API 定價、GLM-5.3 Flash API 定價、Hy4 preview API 定價。
ERNIE-5.5-Flash-Base 常見問題
ERNIE-5.5-Flash-Base 有官方百度託管 API 嗎?
沒有。百度釋出模型權重,並提供 SGLang 與 vLLM 部署配方,但沒有按 token 計價的價格表;在發布時也沒有任何推論服務商提供這個模型。
ERNIE-5.5-Flash-Base 每百萬 token 要多少錢?
官方沒有公布任何價格。模型可在自訂授權下免費下載,但自架成本包括約 286B 參數的模型、KV cache 與營運費用。
ERNIE-5.5-Flash-Base 是開源模型嗎?
不是。它是採用百度自訂授權的開放權重模型,包含地區、營收、署名與禁止蒸餾等條款,不屬於 OSI 定義的開源軟體。
可以在歐盟、英國或南韓使用嗎?
不行。這份授權排除了在這些地區使用模型素材、衍生作品與輸出。
有聊天版或 instruct 版本嗎?
發布時沒有。這個檢查點只完成預訓練;百度表示經過後訓練的 ERNIE 5.5 Flash 將會推出,但尚未公布日期。