AIREITER

ERNIE-5.5-Flash-Base API 定價評測(2026):目前沒有 API

最近更新: 2026-11-06 07:48:23

目前沒有官方的 ERNIE-5.5-Flash-Base API 定價,因為百度並未提供託管端點或價格表。百度在 2026 年 11 月 5 日釋出可免費下載的模型權重,但採用限制嚴格的授權;而要執行這個 280B 檢查點,需要資料中心級 GPU,授權更直接禁止在歐盟、英國與南韓使用。它是研究用途的基礎模型,不是下載後就能直接接上的聊天 API。

你實際下載的是什麼

ERNIE-5.5-Flash-Base 是預訓練結束時的模型檢查點,尚未經過中期訓練或後訓練。百度對此說得很清楚:經過後訓練的 ERNIE 5.5 Flash「將會推出」,但沒有公布日期。因此你拿到的是文字接續模型,不具備指令遵循、聊天模板、工具使用或安全性調校能力。

規格亮點是總參數量 280B、每個 token 啟用 14B,從零開始以 33.5T tokens 訓練,使用 Muon 最佳化器與 FP8 混合精度。Hugging Face 將 safetensors 檔案加總後估算約 286.2B 參數,略高於百度標示的 280B。

規格ERNIE-5.5-Flash-Base
架構稀疏 MoE,43 層(1 層 dense + 42 層 Multi-Router Latent MoE)
Experts512 個路由 expert,每個 token 選 top-10,另加 1 個共用 expert
Hidden / 詞彙表4,096 hidden、201,216-token BPE 詞彙表
注意力37 層 Heavily Compressed Attention + 6 層 MLA-DSA,64 個 heads
訓練上下文131,072 tokens
推論設定1,048,576 tokens,用於微調與推論
格式FP8 與 BF16 safetensors,提供於 Hugging Face 與 ModelScope
模態僅支援文字輸入/文字輸出

Heavily Compressed Attention 在大多數層級每 128-token 區塊只儲存一筆 cache,只有每七層中的一層保留完整上下文。ECHO 則把最後一層重複用作 speculative decoding 的草稿模型,不需要另配輔助模型。

Baidu ERNIE-5.5-Flash-Base official release page showing specs and download options

模型儲存庫為 baidu/ERNIE-5.5-Flash-Base 與 baidu/ERNIE-5.5-Flash-Base-BF16。兩者都已公開列出,但必須先透過授權條款接受授權後才能存取。發布時的模型頁面沒有列出任何推論服務商,而 ModelCap 顯示的服務商數量為 0。

ERNIE-5.5-Flash-Base API 定價:下載 $0,硬體帳單不會是 $0

如果你搜尋的是按 token 計價的 ERNIE-5.5-Flash-Base API,答案很簡單:模型權重下載費用是 $0,但官方沒有公布每百萬 token 的價格,也沒有提供託管端點。實際支出會落在儲存空間、GPU 與工程人力上。由於百度沒有提供可供估價的參考部署,本篇不列出任何雲端每小時成本。

版本儲存大小適用情境
FP8磁碟約 304 GB(約 283 GiB)實際部署服務的最低目標
BF16磁碟約 573 GB(約 534 GiB)比 FP8 約多 251 GiB

百度公布的啟動範例都假設使用 4 路平行。在實務上,以下容量估算只能視為底線,且是以記憶體計算,並非全部都經過百度驗證:

配置記憶體狀況FP8 容量估算
4x H100 80 GB(320 GB)緊繃權重約佔 283 GiB;百度測得單一請求最高 262K,並行服務建議維持在 32K
8x H100 80 GB(640 GB)可行FP8 服務常見的雲端配置
4x H200 141 GB(564 GB)充裕符合百度的 4-GPU 配方
4x B200 / GB200(每張 180-192 GB)可以已驗證可嘗試完整 1M 上下文的路徑
Mac Studio 512 GB理論上可放入 RAM發布時 MLX、llama.cpp 與 Ollama 都不支援

按照百度的部署配方,完整的 1,048,576-token 上下文無法放進 4 張 80 GB 顯示卡:4xH100 配方在單一請求 262,144 tokens 時,記憶體使用率已達 0.93,沒有並行餘裕;1M 配方則以 Blackwell 為目標,使用率 0.85,並降低並行度。若要在 4xH100 上處理多個生產請求,建議維持在 32K 或更短。模型訓練只到 128K,因此超過 128K 後的表現仍需要額外調校與測試。技術資料中列出的完整模型 SFT 參考配置,是 64x GB300(16 個節點 x 4)。

自架模型主要是為了資料控管或後訓練需求,並不是因為目前已證明它能降低每 token 成本。

真正限制團隊的,可能是授權而不是 VRAM

模型權重採用ERNIE 5.5 Flash Base Model License Agreement v1.0,並非 Apache 2.0 或 MIT。

  • 使用地區是全球,但排除歐盟、英國與南韓。第 5.3 節也限制在授權地區以外使用模型輸出。
  • 相關年度營收不超過 $50M 的商業使用(需合併計算關係企業,且產品全部營收都算在內),首次使用前必須以電子郵件通知百度,並在 UI、About 頁面或 API 文件中醒目標示「Powered by ERNIE」。
  • 超過 $50M 的商業使用必須事先取得書面授權。提出申請並不代表已獲得許可。
  • 不得使用輸出、素材與衍生作品來改進其他 AI 模型,只有 ERNIE 衍生模型例外。量化版本與微調版本同樣受此授權約束。
  • 以「現況提供」方式提供,適用香港法律。

模型發布後幾小時內,當地開發者就指出了這些問題:

「百度的新開放模型在百度自己的圖表中略勝 DeepSeek,但如果你在歐盟工作,這份授權不允許你使用它。」——@MartinSzerment 發表於 X

在r/LocalLLaMA 討論串中,當時還沒有人真正承載線上流量;大家關心的是硬體是否放得下、GGUF 何時推出,以及 instruct 版本的發布日期。

與 DeepSeek V4 Flash Base、Hy3、MiMo 的基準測試比較

所有數字都是百度在統一流程上測得,使用共通提示詞與 few-shot 設定。發布時尚未有獨立重現結果,而 ModelCap 將模型暫列為第 127 名(共 352 個模型),Index 為 51.2、獨立證據占比 0%、支援度 15.1%。因此,下面的表格應視為廠商訊號,而不是正式排行榜。

百度完整的 30 項測試中,ERNIE 有 24 項拿到最高分,6 項落後,分別是 ChineseSimpleQA、BBH CoT、INCLUDE-lite、FullStackBench、HELMET-Rerank 與 InfiniteBench。若只和 DeepSeek-V4-Flash-Base 正面比較,ERNIE 在 30 項中領先 26 項,只輸給 ChineseSimpleQA、INCLUDE-lite、HELMET-Rerank 與 InfiniteBench。以下節錄 15 項關鍵測試,包含全部 6 項未能領先的項目。

基準測試ERNIE 5.5 Flash BaseDeepSeek-V4-Flash-Base (284B/13B)Hy3-preview-Base (295B/21B)MiMo-V2.5-Base (310B/15B)
MMLU93.389.487.587.6
MMLU-Pro78.469.266.965.7
GPQA60.255.950.251.4
HumanEval+82.369.578.074.4
MBPP+81.567.278.374.3
LiveCodeBench40.131.933.532.4
RepoQA91.781.091.356.5
MGSM (8-shot CoT)87.084.676.983.8
BBH direct77.169.067.568.0
BBH CoT89.287.590.089.8
INCLUDE-lite79.579.877.774.5
FullStackBench54.643.356.754.1
HELMET-Rerank56.260.055.756.6
InfiniteBench46.548.033.046.7
ChineseSimpleQA73.075.373.268.8

和 DeepSeek 的差距主要出現在程式碼能力;長上下文則各有勝負:ERNIE 在 RepoQA 領先,卻輸掉 HELMET-Rerank 與 InfiniteBench。百度比較的是 DeepSeek V4 Flash Base,而不是更新的 V4.1 系列。基礎模型分數無法說明指令遵循或工具使用能力,而 1M 上下文只是設定上可用,並不代表已經由訓練驗證。

如何執行,才不會浪費整個週末

請使用 /v1/completions,不要使用 /v1/chat/completions。模型沒有聊天模板。送出原始提示詞時要帶上 BOS token(add_special_tokens=True);進行事實探測時可將 temperature 設為 0,並以 few-shot 範例取代指令。如果輸出開始漫無邊際地延伸,可以加入更多範例,以及像 "\nQ:" 這樣的停止序列。這是基礎模型的預期行為。

vLLM 路徑(需要剛好使用 0.32.0,並在全新環境中安裝百度的外掛):

pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
  --kv-cache-dtype fp8 \
  --enable-expert-parallel \
  --data-parallel-size 4 \
  --max-model-len 131072 \
  --port 30000 \
  --moe-backend humming

SGLang 路徑:

docker run --gpus all -p 30000:30000 \
  lmsysorg/sglang:dev-ernie-55-flash \
  sglang serve \
  --model-path baidu/ERNIE-5.5-Flash-Base \
  --tp 4 --attn-dp-size 4 \
  --context-length 131072 \
  --max-running-requests 1024
  • ernie5_5_moe is not supported — 外掛或映像版本錯誤;請使用 vLLM 0.32.0 加上該外掛,或改用 SGLang dev 映像。
  • 聊天模板錯誤 — 你呼叫了 /v1/chat/completions;請改用 /v1/completions。
  • 4x80 GB 發生 OOM — FP8 權重已經塞滿顯示卡;若要並行服務,將上下文降至 32K,或改用 8xH100/4xH200。
  • 下載遭拒 — 登入 Hugging Face、接受授權,或在允許使用的地區改從 ModelScope 下載。
  • 發布時沒有 GGUF/Ollama/LM Studio/MLX — 發布時的文件記載為不支援。

該花力氣部署,還是選擇託管的 flash 模型?

團隊類型建議選擇
位於歐盟/英國/南韓以外、擁有多 GPU 預算的研究/後訓練團隊把 ERNIE-5.5-Flash-Base 當作乾淨的 280B/14B 起點,用於 SFT 與 RL
本週就需要聊天、工具或 agent 的應用開發者選擇 DeepSeek V4.1 Flash 或 GLM-5.3 Flash 等託管 instruct 模型
要在歐盟/英國/南韓部署,或產品營收超過 $50M 但不想處理百度文件在授權條款改變前跳過 ERNIE Base
等待 GGUF 的筆電/單 GPU 團隊先等;發布時還沒有消費級版本

目前最大的未知數是時間:如果 instruct 版本沿用相同的地區與營收條款,再漂亮的基礎模型分數,也幫不了大多數生產團隊。

延伸閱讀:DeepSeek V4.1 Flash API 定價、GLM-5.3 Flash API 定價、Hy4 preview API 定價。

ERNIE-5.5-Flash-Base 常見問題

ERNIE-5.5-Flash-Base 有官方百度託管 API 嗎?

沒有。百度釋出模型權重,並提供 SGLang 與 vLLM 部署配方,但沒有按 token 計價的價格表;在發布時也沒有任何推論服務商提供這個模型。

ERNIE-5.5-Flash-Base 每百萬 token 要多少錢?

官方沒有公布任何價格。模型可在自訂授權下免費下載,但自架成本包括約 286B 參數的模型、KV cache 與營運費用。

ERNIE-5.5-Flash-Base 是開源模型嗎?

不是。它是採用百度自訂授權的開放權重模型,包含地區、營收、署名與禁止蒸餾等條款,不屬於 OSI 定義的開源軟體。

可以在歐盟、英國或南韓使用嗎?

不行。這份授權排除了在這些地區使用模型素材、衍生作品與輸出。

有聊天版或 instruct 版本嗎?

發布時沒有。這個檢查點只完成預訓練;百度表示經過後訓練的 ERNIE 5.5 Flash 將會推出,但尚未公布日期。