AIREITER

Обзор цен API ERNIE-5.5-Flash-Base (2026): API пока нет

Последнее обновление: 2026-11-06 07:48:08

У ERNIE-5.5-Flash-Base нет официальной цены API — по простой причине: Baidu не запустила ни hosted endpoint, ни тарифную сетку. 5 ноября 2026 года компания выложила веса для бесплатного скачивания по ограничительной лицензии, но для запуска чекпойнта на 280B потребуются датацентровые GPU. Более того, лицензия напрямую запрещает использование в ЕС, Великобритании и Южной Корее. Это исследовательская базовая модель, а не готовый чат-API.

Что именно вы скачиваете

ERNIE-5.5-Flash-Base — чекпойнт, сохраненный после завершения предобучения, до этапов mid-training и post-training. Baidu прямо указывает, что постобученная ERNIE 5.5 Flash «will follow», но даты не называет. Модель умеет продолжать текст, но не следует инструкциям, не имеет чат-шаблона, не поддерживает tool use и не проходила настройку безопасности.

Ключевые характеристики: 280B общих параметров, из которых на каждый токен активируются 14B; обучение с нуля на 33.5T токенов с оптимизатором Muon и смешанной точностью FP8. На Hugging Face общий объем safetensors соответствует примерно 286.2B параметров — немного больше заявленных Baidu 280B.

ХарактеристикаERNIE-5.5-Flash-Base
АрхитектураРазреженная MoE, 43 слоя (1 dense + 42 Multi-Router Latent MoE)
Эксперты512 маршрутизируемых, top-10 на токен + 1 общий эксперт
Hidden / vocab4,096 hidden, BPE-словарь на 201,216 токенов
Attention37 слоев Heavily Compressed Attention + 6 слоев MLA-DSA, 64 головы
Контекст при обучении131,072 токена
Конфигурация инференса1,048,576 токенов для fine-tuning и инференса
ФорматыFP8 и BF16 safetensors на Hugging Face и ModelScope
МодальностьТолько текст на входе и выходе

В большинстве слоев Heavily Compressed Attention хранит одну запись в кэше на блок из 128 токенов; полный контекст сохраняется лишь в одном из каждых семи слоев. Для спекулятивного декодирования ECHO использует финальный слой как draft model, не требуя отдельной вспомогательной модели.

Официальная страница релиза Baidu ERNIE-5.5-Flash-Base с характеристиками и вариантами скачивания

Репозитории — baidu/ERNIE-5.5-Flash-Base и baidu/ERNIE-5.5-Flash-Base-BF16. Они публично доступны, но доступ к весам открывается только после принятия лицензии. На момент публикации на странице модели не было ни одного inference provider, а ModelCap показывал 0 провайдеров.

Цена ERNIE-5.5-Flash-Base API: скачать бесплатно, платить придется за датацентр

Если вы ищете цену ERNIE-5.5-Flash-Base API за токены, краткий ответ такой: веса стоят $0, а ставки за миллион токенов не опубликованы. У Baidu нет ни тарифов, ни hosted endpoint. На практике платить нужно за хранилище, GPU и инженерное время. Оценивать почасовую стоимость облака здесь бессмысленно: Baidu не опубликовала эталонную конфигурацию развертывания, от которой можно было бы отталкиваться.

ВариантРазмер на дискеЧто это означает
FP8~304 GB на диске (~283 GiB)Минимально реалистичный вариант для сервинга
BF16~573 GB на диске (~534 GiB)Примерно на 251 GiB больше, чем FP8

Примеры Baidu рассчитаны на 4-way parallelism. На практике эти оценки емкости стоит считать нижней границей: они основаны на памяти, а не на полной валидации Baidu.

КонфигурацияПамятьОценка емкости для FP8
4x H100 80 GB (320 GB)ВпритыкВеса занимают ~283 GiB; у Baidu пик — 262K для одного запроса, для конкурентного сервинга лучше оставить 32K
8x H100 80 GB (640 GB)Рабочий вариантТипичная облачная конфигурация для FP8-сервинга
4x H200 141 GB (564 GB)С запасомСоответствует рецептам Baidu на 4 GPU
4x B200 / GB200 (180-192 GB каждая)ДаПроверенный путь для полноценных попыток с 1M
Mac Studio 512 GBФормально помещается в RAMНа момент релиза не поддерживался MLX, llama.cpp и Ollama

В документированных рецептах Baidu полный контекст 1,048,576 токенов не помещается на 4 карты по 80 GB. Конфигурация 4xH100 достигает 262,144 токенов для одного запроса при utilization памяти 0.93, без запаса для параллельных запросов. Рецепт на 1M рассчитан на Blackwell, utilization 0.85 и сниженную конкурентность. Для production-сервинга с несколькими запросами на 4xH100 стоит ограничиться 32K или меньшим контекстом. Обучение завершили на 128K, поэтому поведение за пределами 128K требует дополнительной настройки и тестирования. Эталонная конфигурация full-model SFT в техническом профиле — 64x GB300 (16 узлов по 4).

Самостоятельный хостинг здесь имеет смысл прежде всего ради контроля над данными или post-training, а не из-за доказанного преимущества в стоимости токенов.

Лицензия отсекает больше команд, чем нехватка VRAM

Веса распространяются по ERNIE 5.5 Flash Base Model License Agreement v1.0, а не по Apache 2.0 или MIT.

  • Территория действия — весь мир, кроме ЕС, Великобритании и Южной Кореи. Раздел 5.3 также ограничивает использование результатов за пределами лицензированной территории.
  • Для коммерческого использования при связанном годовом доходе до $50M включительно — учитывается совокупная выручка аффилированных лиц и вся выручка продукта — до первого использования нужно один раз уведомить Baidu по email. Также требуется заметная атрибуция «Powered by ERNIE» в UI, на странице About или в API-документации.
  • При коммерческом использовании с доходом выше $50M нужно заранее получить письменное разрешение. Подача заявки сама по себе разрешения не дает.
  • Нельзя использовать результаты, материалы и производные работы для улучшения другой AI-модели, кроме производной ERNIE. Квантованные и дообученные сборки наследуют лицензию.
  • ПО предоставляется «AS IS» по праву Гонконга.

Разработчики, запускающие модели локально, обратили на это внимание уже в первые часы после релиза:

«Новая открытая модель Baidu обходит DeepSeek на собственной диаграмме Baidu, но если вы работаете в ЕС, лицензия не позволяет вам ее использовать». — @MartinSzerment в X

В треде r/LocalLLaMA на тот момент никто еще не обслуживал реальный трафик. Обсуждали, поместится ли модель на имеющееся железо, когда ждать GGUF и когда выйдет instruct-версия.

Бенчмарки: DeepSeek V4 Flash Base, Hy3 и MiMo

Все результаты получены Baidu в едином пайплайне с общими промптами и few-shot-настройками. На момент публикации независимого воспроизведения не было. ModelCap предварительно ставит модель на #127 из 352 с Index 51.2, долей независимых свидетельств 0% и поддержкой 15.1%. Поэтому таблицу стоит воспринимать как сигнал от вендора, а не как окончательный рейтинг.

В полной таблице Baidu из 30 строк ERNIE набирает наивысший балл в 24 и уступает в 6: ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank и InfiniteBench. В прямом сравнении только с DeepSeek-V4-Flash-Base модель впереди в 26 случаях из 30, проигрывая лишь в ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank и InfiniteBench. Ниже приведены 15 ключевых строк, включая все 6 проигрышей лучшему результату в своем классе.

БенчмаркERNIE 5.5 Flash BaseDeepSeek-V4-Flash-Base (284B/13B)Hy3-preview-Base (295B/21B)MiMo-V2.5-Base (310B/15B)
MMLU93.389.487.587.6
MMLU-Pro78.469.266.965.7
GPQA60.255.950.251.4
HumanEval+82.369.578.074.4
MBPP+81.567.278.374.3
LiveCodeBench40.131.933.532.4
RepoQA91.781.091.356.5
MGSM (8-shot CoT)87.084.676.983.8
BBH direct77.169.067.568.0
BBH CoT89.287.590.089.8
INCLUDE-lite79.579.877.774.5
FullStackBench54.643.356.754.1
HELMET-Rerank56.260.055.756.6
InfiniteBench46.548.033.046.7
ChineseSimpleQA73.075.373.268.8

Главный отрыв от DeepSeek — в кодовых задачах. С длинным контекстом картина смешанная: ERNIE побеждает в RepoQA, но уступает в HELMET-Rerank и InfiniteBench. Baidu сравнивала модель с DeepSeek V4 Flash Base, а не с более новой линейкой V4.1. Результаты базовой модели ничего не говорят о следовании инструкциям и tool use, а поддержка 1M контекста включена конфигурацией, но не подтверждена обучением.

Как запустить модель и не потратить на это все выходные

Используйте /v1/completions, а не /v1/chat/completions: чат-шаблона здесь нет. Передавайте сырой промпт с BOS-токеном (add_special_tokens=True), для фактических проверок выставляйте temperature 0 и используйте few-shot-примеры вместо инструкций. Если модель начинает многословно продолжать текст, добавьте примеры и стоп-последовательность, например "\nQ:". Для базовой модели это нормальное поведение.

Вариант с vLLM: нужен строго v0.32.0 и плагин Baidu в чистом окружении.

pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
  --kv-cache-dtype fp8 \
  --enable-expert-parallel \
  --data-parallel-size 4 \
  --max-model-len 131072 \
  --port 30000 \
  --moe-backend humming

Вариант с SGLang:

docker run --gpus all -p 30000:30000 \
  lmsysorg/sglang:dev-ernie-55-flash \
  sglang serve \
  --model-path baidu/ERNIE-5.5-Flash-Base \
  --tp 4 --attn-dp-size 4 \
  --context-length 131072 \
  --max-running-requests 1024
  • ernie5_5_moe is not supported — используется неправильная версия плагина или образа. Нужны vLLM 0.32.0 с плагином либо dev-образ SGLang.
  • Ошибка chat template — вы вызвали /v1/chat/completions. Переключитесь на /v1/completions.
  • OOM на 4x80 GB — FP8-веса почти полностью заполняют карты. Для конкурентного сервинга снизьте контекст до 32K либо переходите на 8xH100 / 4xH200.
  • Скачивание отклонено — войдите в Hugging Face, примите лицензию или попробуйте ModelScope из разрешенной территории.
  • На момент релиза не было GGUF / Ollama / LM Studio / MLX — это задокументировано как неподдерживаемое на момент публикации.

Стоит ли связываться с моделью или выбрать hosted flash-вариант

КомандаВыбор
Исследовательская команда или команда post-training за пределами ЕС/Великобритании/Южной Кореи с бюджетом на несколько GPUERNIE-5.5-Flash-Base как чистая отправная точка 280B/14B для SFT и RL
Разработчик приложений, которому уже на этой неделе нужны чат, инструменты или агентыHosted instruct-модель, например DeepSeek V4.1 Flash или GLM-5.3 Flash
Развертывание в ЕС / Великобритании / Южной Корее либо продукт с выручкой >$50M без оформления документов с BaiduНе использовать ERNIE Base, пока не изменятся условия лицензии
Разработчик на ноутбуке или с одной GPU, ожидающий GGUFПодождать: на момент релиза потребительских сборок не существовало

Главный вопрос — сроки. Если instruct-релиз сохранит те же территориальные и выручечные ограничения, сильные показатели базовой модели мало помогут большинству production-команд.

Читайте также: цены DeepSeek V4.1 Flash API, цены GLM-5.3 Flash API, цены Hy4 preview API.

FAQ по ERNIE-5.5-Flash-Base

Есть ли официальный hosted API Baidu для ERNIE-5.5-Flash-Base?

Нет. Baidu выпустила веса и рецепты для SGLang и vLLM, но не опубликовала тарифы за токены. На момент публикации модель не обслуживал ни один inference provider.

Сколько стоит миллион токенов ERNIE-5.5-Flash-Base?

Ничего не опубликовано. Веса можно скачать бесплатно по кастомной лицензии; затраты складываются из самостоятельного хостинга примерно 286B параметров, KV cache и операционной поддержки.

ERNIE-5.5-Flash-Base — это open source?

Нет. Это open-weight модель по кастомной лицензии Baidu с ограничениями по территориям, выручке, атрибуции и дистилляции, а не OSI-совместимый open source.

Можно ли использовать ее в ЕС, Великобритании или Южной Корее?

Нет. Лицензия исключает эти территории для использования материалов, производных работ и результатов модели.

Есть ли чат- или instruct-версия?

На момент релиза — нет. Чекпойнт содержит только предобучение; Baidu сообщает, что постобученная ERNIE 5.5 Flash выйдет позднее, но без даты.