ERNIE-5.5-Flash-Base 没有可查的官方 API 价格,原因很简单:百度并未提供托管端点,也没有发布费率表。2026 年 11 月 5 日,百度开放了可免费下载的模型权重,但它采用限制严格的自定义许可证;280B 检查点需要数据中心级 GPU 才跑得动,且许可证直接排除了欧盟、英国和韩国。它是供研究和后训练使用的基础模型,并不是拿来即用的聊天 API。
下载到手的到底是什么
ERNIE-5.5-Flash-Base 是预训练结束时导出的检查点,尚未经过中期训练或后训练。百度对此说明得很明确:后训练版 ERNIE 5.5 Flash “will follow”,但没有公布日期。它只能做文本续写,不具备指令遵循能力,没有聊天模板、工具调用或安全对齐。
模型标称总参数量为 280B,每个 token 激活 14B 参数;它从零开始训练,使用 Muon 优化器和 FP8 混合精度,共训练了 33.5T token。Hugging Face 汇总的 safetensors 参数量约为 286.2B,略高于百度标称的 280B。
| 规格 | ERNIE-5.5-Flash-Base |
|---|---|
| 架构 | 稀疏 MoE,43 层(1 个稠密层 + 42 个 Multi-Router Latent MoE 层) |
| 专家配置 | 512 个路由专家,每个 token 选 top-10,另有 1 个共享专家 |
| 隐藏层 / 词表 | 4,096 隐藏维度,201,216-token BPE 词表 |
| 注意力机制 | 37 层 Heavily Compressed Attention + 6 层 MLA-DSA,64 个头 |
| 训练上下文 | 131,072 tokens |
| 推理配置 | 微调和推理最高支持 1,048,576 tokens |
| 格式 | Hugging Face 和 ModelScope 提供 FP8 与 BF16 safetensors |
| 模态 | 仅支持文本输入、文本输出 |
Heavily Compressed Attention 在大多数层中每 128-token 块只保存一个缓存条目,只有每七层中的一层保留完整上下文。ECHO 则复用最后一层作为推测解码的草稿模型,无需额外部署独立的辅助模型。
公开仓库为 baidu/ERNIE-5.5-Flash-Base 和 baidu/ERNIE-5.5-Flash-Base-BF16。通过 许可证 页面接受条款后即可获得访问权限。发布时,模型页面未列出任何推理服务商,ModelCap 也显示服务商数量为 0。
ERNIE-5.5-Flash-Base API 怎么收费:下载 $0,账单在数据中心
如果你在找 ERNIE-5.5-Flash-Base 按 token 计费的 API 价格,答案是:权重下载为 $0,但没有公开的每百万 token 单价。百度没有发布价格表,也没有托管端点。实际成本来自存储、GPU 和工程人力。由于百度没有给出可用于定价的参考部署方案,本文不提供云端小时成本估算。
| 版本 | 存储体积 | 适配情况 |
|---|---|---|
| FP8 | 磁盘约 ~304 GB(约 ~283 GiB) | 实际提供服务的最低目标 |
| BF16 | 磁盘约 ~573 GB(约 ~534 GiB) | 比 FP8 大约多占 251 GiB |
百度的发布示例采用 4 路并行。实际部署时,应把以下容量判断视为下限:它们基于显存计算,并非均经百度验证。
| 配置 | 内存 | FP8 容量预估 |
|---|---|---|
| 4x H100 80 GB(320 GB) | 非常紧张 | 权重约占 ~283 GiB;百度在单请求下最高到 262K,若要并发服务应控制在 32K |
| 8x H100 80 GB(640 GB) | 可用 | FP8 服务中常见的云端配置 |
| 4x H200 141 GB(564 GB) | 较为充裕 | 符合百度的 4 GPU 配方 |
| 4x B200 / GB200(每张 180-192 GB) | 可以 | 已验证的完整 1M 上下文尝试路径 |
| Mac Studio 512 GB | 理论上可装入 RAM | 发布时不受 MLX、llama.cpp 或 Ollama 支持 |
按百度文档中的部署配方,完整的 1,048,576-token 上下文无法装进 4x80 GB 显卡:4xH100 配方在 0.93 显存利用率下,单请求峰值只能达到 262,144 tokens,且没有并发余量;1M 配方面向 Blackwell,使用 0.85 利用率并降低并发量。若要在 4xH100 上进行多请求生产服务,应限制在 32K 或更短。模型训练只做到 128K,因此超过 128K 的实际表现仍需额外调优和测试。技术资料中的全模型 SFT 参考配置为 64x GB300(16 个节点,每节点 4 张)。
自托管的主要理由应是数据控制或后训练需求,而不是它已经证明具备更低的 token 成本。
真正挡住团队的,可能不是显存而是许可证
模型权重采用的是 ERNIE 5.5 Flash Base Model License Agreement v1.0,并非 Apache 2.0 或 MIT。
- 地域限制:许可范围覆盖全球,但明确排除欧盟、英国和韩国。第 5.3 节还限制在许可地域以外使用模型输出。
- $50M 以下的商业使用:相关年度营收不超过 $50M 时可以商业使用,但关联方营收需合并计算,且整个产品收入都会计入。首次使用前须向百度发送一次性邮件通知,并在 UI、“关于”页面或 API 文档中显著标注“Powered by ERNIE”。
- $50M 以上的商业使用:必须事先获得书面授权;提交申请不等于自动取得许可。
- 禁止蒸馏:不得利用输出、材料或衍生物改进其他 AI 模型,ERNIE 衍生模型除外。量化版和微调版同样继承该许可证。
- 免责条款:按“AS IS”提供,适用香港法律。
本地模型开发者在发布数小时内就注意到了这一点:
“百度的新开放模型在百度自己的图表中略胜 DeepSeek,但如果你在欧盟,许可证不允许你使用它。” —— @MartinSzerment 于 X
r/LocalLLaMA 讨论帖中当时还没有人真正承载过线上流量,讨论主要围绕硬件能否容纳模型、GGUF 何时推出,以及 instruct 版本的发布日期。
对比 DeepSeek V4 Flash Base、Hy3 与 MiMo:基准表现如何
以下数据均由百度通过统一评测流程得出,使用了相同的提示词和 few-shot 设置。发布时尚无独立复现结果;ModelCap 将该模型暂定为 352 个模型中的第 #127 名,Index 为 51.2,独立证据占比 0%,支持度为 15.1%。因此这张表更适合视为厂商信号,而不是权威排行榜。
在百度完整的 30 行表格中,ERNIE 有 24 项得分最高、6 项落后,落后的项目为 ChineseSimpleQA、BBH CoT、INCLUDE-lite、FullStackBench、HELMET-Rerank 和 InfiniteBench。若只与 DeepSeek-V4-Flash-Base 对比,它在 30 项中领先 26 项,仅在 ChineseSimpleQA、INCLUDE-lite、HELMET-Rerank 和 InfiniteBench 失分。下表摘取 15 个关键项目,包含全部 6 项非最佳成绩。
| 基准测试 | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
相较 DeepSeek,代码能力是 ERNIE 最突出的优势;长上下文则呈现分化:它拿下 RepoQA,却落后于 HELMET-Rerank 和 InfiniteBench。百度的对比对象是 DeepSeek V4 Flash Base,而不是更新的 V4.1 系列。基础模型分数无法说明其指令遵循或工具调用能力,1M 上下文也只是配置层面开启,并未经过相应训练验证。
怎样部署,才不用花掉整个周末排错
调用时应使用 /v1/completions,不要用 /v1/chat/completions。这个模型没有聊天模板。请发送带 BOS token 的原始提示词,设置 add_special_tokens=True;做事实性测试时温度设为 0;与其写指令,不如使用 few-shot 示例。如果输出开始发散冗长,可以加入示例,并设置类似 "\nQ:" 的停止序列。这是基础模型的正常表现。
vLLM 路径:需要在全新环境中严格使用 0.32.0,并安装百度插件:
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
SGLang 路径:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported:插件或镜像版本不对。请使用 vLLM 0.32.0 加插件,或使用开发版 SGLang 镜像。- 聊天模板报错:你调用了
/v1/chat/completions;改用/v1/completions。 - 4x80 GB 出现 OOM:FP8 权重已几乎填满显存。并发服务时将上下文降至 32K,或改用 8xH100 / 4xH200。
- 下载被拒:登录 Hugging Face 并接受许可证,或从允许使用的地域尝试 ModelScope。
- 发布时没有 GGUF / Ollama / LM Studio / MLX:相关文档确认发布时尚不支持。
值得折腾吗,还是该选托管 Flash 模型
| 团队类型 | 建议选择 |
|---|---|
| 位于 EU/UK/KR 之外、具备多 GPU 预算的研究或后训练团队 | 选择 ERNIE-5.5-Flash-Base,作为进行 SFT 和 RL 的干净 280B/14B 起点 |
| 本周就需要聊天、工具或 Agent 能力的应用开发团队 | 选择 DeepSeek V4.1 Flash 或 GLM-5.3 Flash 等托管 instruct 模型 |
| 部署在 EU / UK / KR,或产品营收超过 $50M 且不想处理百度授权手续 | 在许可证变化前跳过 ERNIE Base |
| 等待 GGUF 的笔记本或单 GPU 用户 | 继续等待;发布时尚无消费级构建版本 |
真正的问题仍是时间:如果后续 instruct 版本延续相同的地域和营收条款,再好的基础模型成绩,对多数生产团队也没有多少实际帮助。
延伸阅读:DeepSeek V4.1 Flash API 定价、GLM-5.3 Flash API 定价、Hy4 preview API 定价。
ERNIE-5.5-Flash-Base 常见问题
ERNIE-5.5-Flash-Base 有百度官方托管 API 吗?
没有。百度发布了模型权重及 SGLang、vLLM 部署配方,但没有按 token 收费表;发布时也没有推理服务商提供该模型。
ERNIE-5.5-Flash-Base 每百万 token 多少钱?
没有公开价格。模型权重可在自定义许可证下免费下载;成本在于自托管约 286B 参数的模型、KV cache 以及运维工作。
ERNIE-5.5-Flash-Base 是开源模型吗?
不是。它属于开放权重模型,使用百度自定义许可证,附带地域、营收、署名和禁止蒸馏条款,并非 OSI 认可的开源软件。
能在欧盟、英国或韩国使用吗?
不能。许可证排除了这些地域,不得在当地使用模型材料、衍生物及输出。
有聊天版或 instruct 版吗?
发布时没有。该检查点仅经过预训练;百度表示后训练版 ERNIE 5.5 Flash 将会推出,但尚未给出日期。