У ERNIE-5.5-Flash-Base нет официальной цены API — по простой причине: Baidu не запустила ни hosted endpoint, ни тарифную сетку. 5 ноября 2026 года компания выложила веса для бесплатного скачивания по ограничительной лицензии, но для запуска чекпойнта на 280B потребуются датацентровые GPU. Более того, лицензия напрямую запрещает использование в ЕС, Великобритании и Южной Корее. Это исследовательская базовая модель, а не готовый чат-API.
Что именно вы скачиваете
ERNIE-5.5-Flash-Base — чекпойнт, сохраненный после завершения предобучения, до этапов mid-training и post-training. Baidu прямо указывает, что постобученная ERNIE 5.5 Flash «will follow», но даты не называет. Модель умеет продолжать текст, но не следует инструкциям, не имеет чат-шаблона, не поддерживает tool use и не проходила настройку безопасности.
Ключевые характеристики: 280B общих параметров, из которых на каждый токен активируются 14B; обучение с нуля на 33.5T токенов с оптимизатором Muon и смешанной точностью FP8. На Hugging Face общий объем safetensors соответствует примерно 286.2B параметров — немного больше заявленных Baidu 280B.
| Характеристика | ERNIE-5.5-Flash-Base |
|---|---|
| Архитектура | Разреженная MoE, 43 слоя (1 dense + 42 Multi-Router Latent MoE) |
| Эксперты | 512 маршрутизируемых, top-10 на токен + 1 общий эксперт |
| Hidden / vocab | 4,096 hidden, BPE-словарь на 201,216 токенов |
| Attention | 37 слоев Heavily Compressed Attention + 6 слоев MLA-DSA, 64 головы |
| Контекст при обучении | 131,072 токена |
| Конфигурация инференса | 1,048,576 токенов для fine-tuning и инференса |
| Форматы | FP8 и BF16 safetensors на Hugging Face и ModelScope |
| Модальность | Только текст на входе и выходе |
В большинстве слоев Heavily Compressed Attention хранит одну запись в кэше на блок из 128 токенов; полный контекст сохраняется лишь в одном из каждых семи слоев. Для спекулятивного декодирования ECHO использует финальный слой как draft model, не требуя отдельной вспомогательной модели.
Репозитории — baidu/ERNIE-5.5-Flash-Base и baidu/ERNIE-5.5-Flash-Base-BF16. Они публично доступны, но доступ к весам открывается только после принятия лицензии. На момент публикации на странице модели не было ни одного inference provider, а ModelCap показывал 0 провайдеров.
Цена ERNIE-5.5-Flash-Base API: скачать бесплатно, платить придется за датацентр
Если вы ищете цену ERNIE-5.5-Flash-Base API за токены, краткий ответ такой: веса стоят $0, а ставки за миллион токенов не опубликованы. У Baidu нет ни тарифов, ни hosted endpoint. На практике платить нужно за хранилище, GPU и инженерное время. Оценивать почасовую стоимость облака здесь бессмысленно: Baidu не опубликовала эталонную конфигурацию развертывания, от которой можно было бы отталкиваться.
| Вариант | Размер на диске | Что это означает |
|---|---|---|
| FP8 | ~304 GB на диске (~283 GiB) | Минимально реалистичный вариант для сервинга |
| BF16 | ~573 GB на диске (~534 GiB) | Примерно на 251 GiB больше, чем FP8 |
Примеры Baidu рассчитаны на 4-way parallelism. На практике эти оценки емкости стоит считать нижней границей: они основаны на памяти, а не на полной валидации Baidu.
| Конфигурация | Память | Оценка емкости для FP8 |
|---|---|---|
| 4x H100 80 GB (320 GB) | Впритык | Веса занимают ~283 GiB; у Baidu пик — 262K для одного запроса, для конкурентного сервинга лучше оставить 32K |
| 8x H100 80 GB (640 GB) | Рабочий вариант | Типичная облачная конфигурация для FP8-сервинга |
| 4x H200 141 GB (564 GB) | С запасом | Соответствует рецептам Baidu на 4 GPU |
| 4x B200 / GB200 (180-192 GB каждая) | Да | Проверенный путь для полноценных попыток с 1M |
| Mac Studio 512 GB | Формально помещается в RAM | На момент релиза не поддерживался MLX, llama.cpp и Ollama |
В документированных рецептах Baidu полный контекст 1,048,576 токенов не помещается на 4 карты по 80 GB. Конфигурация 4xH100 достигает 262,144 токенов для одного запроса при utilization памяти 0.93, без запаса для параллельных запросов. Рецепт на 1M рассчитан на Blackwell, utilization 0.85 и сниженную конкурентность. Для production-сервинга с несколькими запросами на 4xH100 стоит ограничиться 32K или меньшим контекстом. Обучение завершили на 128K, поэтому поведение за пределами 128K требует дополнительной настройки и тестирования. Эталонная конфигурация full-model SFT в техническом профиле — 64x GB300 (16 узлов по 4).
Самостоятельный хостинг здесь имеет смысл прежде всего ради контроля над данными или post-training, а не из-за доказанного преимущества в стоимости токенов.
Лицензия отсекает больше команд, чем нехватка VRAM
Веса распространяются по ERNIE 5.5 Flash Base Model License Agreement v1.0, а не по Apache 2.0 или MIT.
- Территория действия — весь мир, кроме ЕС, Великобритании и Южной Кореи. Раздел 5.3 также ограничивает использование результатов за пределами лицензированной территории.
- Для коммерческого использования при связанном годовом доходе до $50M включительно — учитывается совокупная выручка аффилированных лиц и вся выручка продукта — до первого использования нужно один раз уведомить Baidu по email. Также требуется заметная атрибуция «Powered by ERNIE» в UI, на странице About или в API-документации.
- При коммерческом использовании с доходом выше $50M нужно заранее получить письменное разрешение. Подача заявки сама по себе разрешения не дает.
- Нельзя использовать результаты, материалы и производные работы для улучшения другой AI-модели, кроме производной ERNIE. Квантованные и дообученные сборки наследуют лицензию.
- ПО предоставляется «AS IS» по праву Гонконга.
Разработчики, запускающие модели локально, обратили на это внимание уже в первые часы после релиза:
«Новая открытая модель Baidu обходит DeepSeek на собственной диаграмме Baidu, но если вы работаете в ЕС, лицензия не позволяет вам ее использовать». — @MartinSzerment в X
В треде r/LocalLLaMA на тот момент никто еще не обслуживал реальный трафик. Обсуждали, поместится ли модель на имеющееся железо, когда ждать GGUF и когда выйдет instruct-версия.
Бенчмарки: DeepSeek V4 Flash Base, Hy3 и MiMo
Все результаты получены Baidu в едином пайплайне с общими промптами и few-shot-настройками. На момент публикации независимого воспроизведения не было. ModelCap предварительно ставит модель на #127 из 352 с Index 51.2, долей независимых свидетельств 0% и поддержкой 15.1%. Поэтому таблицу стоит воспринимать как сигнал от вендора, а не как окончательный рейтинг.
В полной таблице Baidu из 30 строк ERNIE набирает наивысший балл в 24 и уступает в 6: ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank и InfiniteBench. В прямом сравнении только с DeepSeek-V4-Flash-Base модель впереди в 26 случаях из 30, проигрывая лишь в ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank и InfiniteBench. Ниже приведены 15 ключевых строк, включая все 6 проигрышей лучшему результату в своем классе.
| Бенчмарк | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
Главный отрыв от DeepSeek — в кодовых задачах. С длинным контекстом картина смешанная: ERNIE побеждает в RepoQA, но уступает в HELMET-Rerank и InfiniteBench. Baidu сравнивала модель с DeepSeek V4 Flash Base, а не с более новой линейкой V4.1. Результаты базовой модели ничего не говорят о следовании инструкциям и tool use, а поддержка 1M контекста включена конфигурацией, но не подтверждена обучением.
Как запустить модель и не потратить на это все выходные
Используйте /v1/completions, а не /v1/chat/completions: чат-шаблона здесь нет. Передавайте сырой промпт с BOS-токеном (add_special_tokens=True), для фактических проверок выставляйте temperature 0 и используйте few-shot-примеры вместо инструкций. Если модель начинает многословно продолжать текст, добавьте примеры и стоп-последовательность, например "\nQ:". Для базовой модели это нормальное поведение.
Вариант с vLLM: нужен строго v0.32.0 и плагин Baidu в чистом окружении.
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend humming
Вариант с SGLang:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024
ernie5_5_moe is not supported— используется неправильная версия плагина или образа. Нужны vLLM 0.32.0 с плагином либо dev-образ SGLang.- Ошибка chat template — вы вызвали
/v1/chat/completions. Переключитесь на/v1/completions. - OOM на 4x80 GB — FP8-веса почти полностью заполняют карты. Для конкурентного сервинга снизьте контекст до 32K либо переходите на 8xH100 / 4xH200.
- Скачивание отклонено — войдите в Hugging Face, примите лицензию или попробуйте ModelScope из разрешенной территории.
- На момент релиза не было GGUF / Ollama / LM Studio / MLX — это задокументировано как неподдерживаемое на момент публикации.
Стоит ли связываться с моделью или выбрать hosted flash-вариант
| Команда | Выбор |
|---|---|
| Исследовательская команда или команда post-training за пределами ЕС/Великобритании/Южной Кореи с бюджетом на несколько GPU | ERNIE-5.5-Flash-Base как чистая отправная точка 280B/14B для SFT и RL |
| Разработчик приложений, которому уже на этой неделе нужны чат, инструменты или агенты | Hosted instruct-модель, например DeepSeek V4.1 Flash или GLM-5.3 Flash |
| Развертывание в ЕС / Великобритании / Южной Корее либо продукт с выручкой >$50M без оформления документов с Baidu | Не использовать ERNIE Base, пока не изменятся условия лицензии |
| Разработчик на ноутбуке или с одной GPU, ожидающий GGUF | Подождать: на момент релиза потребительских сборок не существовало |
Главный вопрос — сроки. Если instruct-релиз сохранит те же территориальные и выручечные ограничения, сильные показатели базовой модели мало помогут большинству production-команд.
Читайте также: цены DeepSeek V4.1 Flash API, цены GLM-5.3 Flash API, цены Hy4 preview API.
FAQ по ERNIE-5.5-Flash-Base
Есть ли официальный hosted API Baidu для ERNIE-5.5-Flash-Base?
Нет. Baidu выпустила веса и рецепты для SGLang и vLLM, но не опубликовала тарифы за токены. На момент публикации модель не обслуживал ни один inference provider.
Сколько стоит миллион токенов ERNIE-5.5-Flash-Base?
Ничего не опубликовано. Веса можно скачать бесплатно по кастомной лицензии; затраты складываются из самостоятельного хостинга примерно 286B параметров, KV cache и операционной поддержки.
ERNIE-5.5-Flash-Base — это open source?
Нет. Это open-weight модель по кастомной лицензии Baidu с ограничениями по территориям, выручке, атрибуции и дистилляции, а не OSI-совместимый open source.
Можно ли использовать ее в ЕС, Великобритании или Южной Корее?
Нет. Лицензия исключает эти территории для использования материалов, производных работ и результатов модели.
Есть ли чат- или instruct-версия?
На момент релиза — нет. Чекпойнт содержит только предобучение; Baidu сообщает, что постобученная ERNIE 5.5 Flash выйдет позднее, но без даты.