AIREITER현재 ERNIE-5.5-Flash-Base의 공식 API 가격은 없습니다. Baidu가 호스팅 엔드포인트나 요금표를 공개하지 않았기 때문입니다. 2026년 11월 5일 제한적인 라이선스와 함께 가중치를 무료로 내려받을 수 있게 했지만, 280B 체크포인트를 구동하려면 데이터센터급 GPU가 필요하고 커스텀 라이선스는 EU·영국·한국에서의 사용을 아예 막고 있습니다. 즉, 바로 연결해 쓰는 채팅 API가 아니라 연구용 기반 모델에 가깝습니다.
실제로 내려받는 것은 무엇인가
ERNIE-5.5-Flash-Base는 사전 학습이 끝난 시점의 체크포인트입니다. 미드 트레이닝이나 포스트 트레이닝은 적용되지 않았습니다. Baidu도 이를 명확히 밝히며, 포스트 트레이닝을 거친 ERNIE 5.5 Flash는 날짜를 정하지 않은 채 "will follow"라고만 안내했습니다. 따라서 받을 수 있는 것은 텍스트 이어쓰기 모델입니다. 지시 따르기, 채팅 템플릿, 도구 사용, 안전성 튜닝은 제공되지 않습니다.
공식 사양의 핵심은 전체 280B 파라미터, 토큰당 14B 활성화 구조입니다. Muon 옵티마이저와 FP8 혼합 정밀도를 사용해 33.5T 토큰으로 처음부터 학습했습니다. Hugging Face의 safetensors 파일을 합산하면 약 286.2B 파라미터로, Baidu가 내세운 280B보다 조금 많습니다.
| 사양 | ERNIE-5.5-Flash-Base |
|---|---|
| 아키텍처 | 희소 MoE, 43개 레이어(1개 dense + 42개 Multi-Router Latent MoE) |
| Expert | 라우팅 expert 512개, 토큰당 top-10 + shared expert 1개 |
| Hidden / vocab | hidden 4,096, 201,216토큰 BPE 어휘 |
| 어텐션 | Heavily Compressed Attention 레이어 37개 + MLA-DSA 레이어 6개, 64개 헤드 |
| 학습 컨텍스트 | 131,072토큰 |
| 추론 설정 | 파인튜닝 및 추론에 1,048,576토큰 |
| 형식 | Hugging Face와 ModelScope에서 FP8 및 BF16 safetensors 제공 |
| 모달리티 | 텍스트 입력 / 텍스트 출력만 지원 |
Heavily Compressed Attention은 대부분의 레이어에서 128토큰 블록마다 KV 캐시 항목 하나만 저장하고, 7개 중 1개 레이어만 전체 컨텍스트를 유지합니다. ECHO는 별도의 보조 모델을 두는 대신 마지막 레이어를 초안 모델로 재사용해 speculative decoding을 수행합니다.
저장소는 baidu/ERNIE-5.5-Flash-Base와 baidu/ERNIE-5.5-Flash-Base-BF16입니다. 라이선스에 동의하면 접근 권한을 받아 공개 목록에 등록된 파일을 사용할 수 있습니다. 공개 시점에 모델 페이지에는 추론 제공자가 표시되지 않았고, ModelCap에도 제공자는 0곳으로 나왔습니다.
ERNIE-5.5-Flash-Base API 가격: 다운로드는 $0, 실제 비용은 데이터센터
토큰당 ERNIE-5.5-Flash-Base API 가격을 찾고 있다면 답은 간단합니다. 가중치 다운로드 비용은 $0이지만, 공개된 토큰당 또는 백만 토큰당 요금은 없습니다. Baidu는 요금표와 호스팅 엔드포인트를 모두 공개하지 않았습니다. 실제로 부담해야 할 비용은 스토리지, GPU, 엔지니어링 시간입니다. Baidu가 가격을 산정할 기준이 될 레퍼런스 배포 구성을 내놓지 않았으므로, 여기서는 시간당 클라우드 비용을 제시하지 않습니다.
| 변형 | 저장 용량 | 가능한 구성 |
|---|---|---|
| FP8 | 디스크 약 304GB(약 283GiB) | 현실적인 최소 서빙 목표 |
| BF16 | 디스크 약 573GB(약 534GiB) | FP8보다 약 251GiB 더 큼 |
Baidu의 출시 예시는 4-way 병렬화를 전제로 합니다. 실제로는 다음 메모리 계산을 하한선으로 보는 편이 안전합니다. 이는 메모리 기준 추정치이며, Baidu가 모두 검증한 구성은 아닙니다.
| 구성 | 메모리 여유 | FP8 용량 추정 |
|---|---|---|
| H100 80GB 4개(320GB) | 빠듯함 | 가중치가 약 283GiB를 차지합니다. Baidu 기준 단일 요청은 262K에서 정점에 도달하므로, 동시 서빙은 32K로 유지 |
| H100 80GB 8개(640GB) | 실행 가능 | FP8 서빙에 흔히 쓰는 클라우드 구성 |
| H200 141GB 4개(564GB) | 여유 있음 | Baidu의 4-GPU 레시피와 일치 |
| B200 / GB200 4개(각 180-192GB) | 가능 | 전체 1M 시도에 대해 검증된 경로 |
| Mac Studio 512GB | 이론상 RAM에 들어감 | 출시 시점에는 MLX, llama.cpp, Ollama가 지원하지 않음 |
Baidu가 문서로 공개한 구성에서는 1,048,576토큰 전체 컨텍스트를 80GB 카드 4장에 담을 수 없습니다. 4xH100 레시피는 동시성 여유 없이 메모리 사용률 0.93에서 단일 요청 262,144토큰이 정점이며, 1M 레시피는 사용률 0.85와 낮아진 동시성을 전제로 Blackwell을 목표로 합니다. 4xH100으로 여러 요청을 처리한다면 32K 이하로 설정하는 것이 좋습니다. 학습은 128K에서 멈췄으므로 128K를 넘어서는 동작에는 추가 튜닝과 테스트가 필요합니다. 기술 프로필에 나온 전체 모델 SFT 레퍼런스 구성은 GB300 64개(4개씩 16노드)입니다.
셀프 호스팅을 선택할 이유는 검증된 토큰 비용 절감보다는 데이터 통제권이나 포스트 트레이닝 요구에 있습니다.
VRAM보다 먼저 확인해야 할 라이선스
이 가중치에는 Apache 2.0이나 MIT가 아닌 ERNIE 5.5 Flash Base Model License Agreement v1.0이 적용됩니다.
- 사용 가능 지역은 EU, 영국, 한국을 제외한 전 세계입니다. 5.3항은 라이선스 지역 밖에서 출력물을 사용하는 것도 제한합니다.
- 관련 연 매출이 5,000만 달러 이하인 상업적 사용은 첫 사용 전에 Baidu에 일회성 이메일 통지를 보내야 하며, UI·About 페이지·API 문서에 "Powered by ERNIE"를 눈에 띄게 표시해야 합니다. 매출은 계열사 전체를 합산하고 제품 전체 매출을 기준으로 합니다.
- 5,000만 달러를 초과하는 상업적 사용에는 사전 서면 승인이 필요합니다. 신청했다고 허가가 부여되는 것은 아닙니다.
- 출력물, 자료, 파생물은 다른 AI 모델을 개선하는 데 사용할 수 없습니다. 예외는 ERNIE 파생 모델입니다. 양자화 버전과 파인튜닝 버전에도 이 라이선스가 이어집니다.
- 홍콩법을 따르며 "있는 그대로(AS IS)" 제공됩니다.
출시 후 몇 시간 만에 현지 개발자들도 이 문제를 지적했습니다.
"Baidu의 새 오픈 모델은 Baidu 자체 차트에서 DeepSeek를 앞섰지만, EU에서 일한다면 라이선스상 사용할 수 없습니다." — @MartinSzerment, X
r/LocalLLaMA 스레드에서도 실제 트래픽을 처리했다는 사람은 아직 없었습니다. 주요 질문은 하드웨어 적합성, GGUF 공개 시점, instruct 버전 출시일이었습니다.
DeepSeek V4 Flash Base, Hy3, MiMo와 비교한 벤치마크
모든 수치는 공통 프롬프트와 few-shot 설정을 적용한 Baidu 자체 통합 파이프라인의 결과입니다. 공개 시점까지 독립 재현은 없었고, ModelCap은 이 모델을 352개 중 잠정 127위로 평가했습니다. Index는 51.2, 독립 근거 비중은 0%, 지원도는 15.1%입니다. 따라서 아래 표는 순위표라기보다 벤더가 제시한 신호로 보는 것이 맞습니다.
Baidu의 전체 30개 항목 표에서 ERNIE는 24개 항목의 최고 점수를 기록했고, 6개 항목에서는 뒤처졌습니다. 해당 항목은 ChineseSimpleQA, BBH CoT, INCLUDE-lite, FullStackBench, HELMET-Rerank, InfiniteBench입니다. DeepSeek-V4-Flash-Base와의 맞대결만 보면 30개 중 26개에서 앞섰고, ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank, InfiniteBench에서만 졌습니다. 아래 발췌 표에는 6개 열세 항목을 모두 포함한 핵심 15개 항목이 담겨 있습니다.
| 벤치마크 | ERNIE 5.5 Flash Base | DeepSeek-V4-Flash-Base (284B/13B) | Hy3-preview-Base (295B/21B) | MiMo-V2.5-Base (310B/15B) |
|---|---|---|---|---|
| MMLU | 93.3 | 89.4 | 87.5 | 87.6 |
| MMLU-Pro | 78.4 | 69.2 | 66.9 | 65.7 |
| GPQA | 60.2 | 55.9 | 50.2 | 51.4 |
| HumanEval+ | 82.3 | 69.5 | 78.0 | 74.4 |
| MBPP+ | 81.5 | 67.2 | 78.3 | 74.3 |
| LiveCodeBench | 40.1 | 31.9 | 33.5 | 32.4 |
| RepoQA | 91.7 | 81.0 | 91.3 | 56.5 |
| MGSM (8-shot CoT) | 87.0 | 84.6 | 76.9 | 83.8 |
| BBH direct | 77.1 | 69.0 | 67.5 | 68.0 |
| BBH CoT | 89.2 | 87.5 | 90.0 | 89.8 |
| INCLUDE-lite | 79.5 | 79.8 | 77.7 | 74.5 |
| FullStackBench | 54.6 | 43.3 | 56.7 | 54.1 |
| HELMET-Rerank | 56.2 | 60.0 | 55.7 | 56.6 |
| InfiniteBench | 46.5 | 48.0 | 33.0 | 46.7 |
| ChineseSimpleQA | 73.0 | 75.3 | 73.2 | 68.8 |
DeepSeek와 비교했을 때 가장 큰 격차는 코드 영역에서 나타납니다. 반면 긴 컨텍스트 성능은 엇갈립니다. ERNIE는 RepoQA에서 앞섰지만 HELMET-Rerank와 InfiniteBench에서는 밀렸습니다. Baidu가 비교 대상으로 삼은 것은 최신 V4.1 라인이 아니라 DeepSeek V4 Flash Base입니다. 베이스 모델 점수만으로는 지시 따르기나 도구 사용 능력을 알 수 없으며, 1M 컨텍스트 역시 학습으로 검증된 기능이 아니라 설정상 활성화된 수치입니다.
주말을 날리지 않고 실행하는 방법
/v1/chat/completions가 아니라 /v1/completions를 사용해야 합니다. 채팅 템플릿이 없기 때문입니다. BOS 토큰과 함께(add_special_tokens=True) 원시 프롬프트를 보내고, 사실 확인 테스트에는 temperature 0을 적용하세요. 지시문보다는 few-shot 패턴을 사용하는 편이 맞습니다. 출력이 지나치게 길어지면 예시를 추가하고 "\nQ:" 같은 stop sequence를 지정하면 됩니다. 이는 베이스 모델에서 예상되는 동작입니다.
vLLM 경로(정확히 0.32.0과 Baidu 플러그인이 필요하며, 새 환경에서 설치해야 함):
pip install vllm==0.32.0
pip install "git+https://github.com/baidu/vLLM-ERNIE.git"
vllm serve baidu/ERNIE-5.5-Flash-Base \
--kv-cache-dtype fp8 \
--enable-expert-parallel \
--data-parallel-size 4 \
--max-model-len 131072 \
--port 30000 \
--moe-backend hummingSGLang 경로:
docker run --gpus all -p 30000:30000 \
lmsysorg/sglang:dev-ernie-55-flash \
sglang serve \
--model-path baidu/ERNIE-5.5-Flash-Base \
--tp 4 --attn-dp-size 4 \
--context-length 131072 \
--max-running-requests 1024ernie5_5_moe is not supported— 플러그인이나 이미지 버전이 잘못된 경우입니다. vLLM 0.32.0과 플러그인을 함께 사용하거나 dev SGLang 이미지를 사용하세요.- 채팅 템플릿 오류 —
/v1/chat/completions를 호출한 경우입니다./v1/completions로 바꾸세요. - 80GB GPU 4장에서 OOM 발생 — FP8 가중치만으로 카드가 가득 찹니다. 동시 서빙은 컨텍스트를 32K로 낮추거나 H100 8장 / H200 4장으로 옮기세요.
- 다운로드 거부 — Hugging Face에 로그인해 라이선스에 동의하거나, 허용 지역에서 ModelScope를 사용해 보세요.
- 출시 시점에는 GGUF / Ollama / LM Studio / MLX가 지원되지 않음 — 공개 당시 지원되지 않는 것으로 문서화됨.
직접 운영할까, 호스팅 플래시 모델을 고를까
| 팀 | 추천 |
|---|---|
| EU/영국/한국 외 지역의 연구·포스트 트레이닝 팀이며 멀티 GPU 예산이 있는 경우 | SFT와 RL을 위한 깔끔한 280B/14B 시작점으로 ERNIE-5.5-Flash-Base 선택 |
| 이번 주 안에 채팅, 도구 또는 에이전트가 필요한 앱 개발팀 | DeepSeek V4.1 Flash 또는 GLM-5.3 Flash 같은 호스팅 instruct 모델 |
| EU/영국/한국 배포 또는 Baidu 절차 없이 5,000만 달러 초과 제품을 운영하는 경우 | 라이선스가 바뀔 때까지 ERNIE Base를 피할 것 |
| GGUF를 기다리는 노트북·단일 GPU 환경 | 대기 권장. 출시 시점에는 소비자용 빌드가 없었음 |
남은 변수는 출시 시점입니다. instruct 버전에도 이 지역 및 매출 조건이 그대로 적용된다면, 높은 베이스 모델 벤치마크 점수만으로는 대부분의 프로덕션 팀에 도움이 되지 않습니다.
관련 글: DeepSeek V4.1 Flash API 가격, GLM-5.3 Flash API 가격, Hy4 preview API 가격.
ERNIE-5.5-Flash-Base FAQ
ERNIE-5.5-Flash-Base를 위한 공식 Baidu 호스팅 API가 있나요?
없습니다. Baidu는 SGLang과 vLLM 실행 레시피가 포함된 가중치만 공개했고, 토큰당 요금표는 제공하지 않았습니다. 공개 시점에는 이 모델을 서비스하는 추론 제공자도 없었습니다.
ERNIE-5.5-Flash-Base는 백만 토큰당 얼마인가요?
공개된 가격이 없습니다. 커스텀 라이선스에 따라 다운로드는 무료지만, 약 286B 파라미터와 KV 캐시, 운영 환경을 직접 구성해 셀프 호스팅해야 합니다.
ERNIE-5.5-Flash-Base는 오픈소스인가요?
아닙니다. 지역, 매출, attribution, distillation 금지 조건이 포함된 Baidu 커스텀 라이선스의 오픈 웨이트 모델입니다. OSI 오픈소스 라이선스 모델은 아닙니다.
EU, 영국 또는 한국에서 사용할 수 있나요?
없습니다. 라이선스는 해당 지역에서 자료, 파생물, 출력물을 사용하는 것을 제외합니다.
채팅 또는 instruct 버전이 있나요?
출시 시점에는 없었습니다. 이 체크포인트는 사전 학습만 완료된 상태이며, Baidu는 포스트 트레이닝을 거친 ERNIE 5.5 Flash가 날짜 없이 추후 공개될 예정이라고 밝혔습니다.