AIREITER

Ming-3.0 TTS 评测:克隆能力突出,部署仍显粗糙

最后更新: 2026-10-20 02:23:30

在开源 TTS 里,同时覆盖声音克隆、音色设计、多语言、方言和情绪化表达的模型并不多,Ming-3.0 TTS 算是其中能力相当完整的一套。它采用 MIT 许可证,支持七种语言、两种中文方言及多种表现力提示;但部署方面的公开信息仍不够扎实:官方测试基于数据中心 GPU,而名称里带有 “Tiny” 的大模型,在存储和显存占用上其实一点也不小。

先选模型,再看跑分

Ming-3.0 TTS 提供两个检查点:一个是稠密架构的 0.5B 模型,另一个是名为 Tiny、总参数量 7.9B 的混合专家模型,每个 token 约激活 1.3B 参数。建议先从 0.5B 开始;只有在多说话人播客生成,或厂商报告中更高的说话人相似度确实能带来价值时,再考虑 Tiny 的更大体积。

选择维度Ming-3.0-tts-0.5BMing-3.0-tts-tiny
架构稠密架构,基于 Qwen2.5-0.5BLing V3 MoE,总计 7.9B / 激活 1.3B
仓库元数据1.48B BF16 参数;2.96 GB safetensors约 9B 参数;仓库文件约占 18 GB
最适合选择它的理由下载体积更小,并有独立竞技场成绩支持多说话人播客模式,且厂商报告的相似度更高
独立 TTS 竞技场结果有:Provider Voice Elo 为 1,188未找到针对该检查点的独立 Elo
官方 GPU 指引已在 H800-80GB 和 H20-96G 上测试推荐 H800
原生入口infer.py / MingTTSinfer_tiny.py / MingTinyTTS

这些模型名称主要描述的是底座,而不是完整的语音生成管线。0.5B 包在 Hugging Face 上显示为 1,479,454,804 个 BF16 参数,是因为其中还包含语音生成组件。Tiny 的稀疏激活可以降低计算量,但并不会消除专家参数带来的存储和内存成本。来源:官方 0.5B 模型卡及官方 Tiny 模型卡。

inclusionAI 这次发布了什么

inclusionAI 于 2026 年 10 月发布了两个检查点的权重、推理代码、任务 cookbook,以及 0.5B 的 Docker 相关材料。官方仓库记录了此次发布,并提供当前的安装说明。

两个检查点均集成语言底座、扩散 Transformer 头、音频 tokenizer、CAM++ 说话人编码器和文本 tokenizer。输出音频采样率为 44.1 kHz,支持中文、英语、德语、西班牙语、法语、韩语和日语;另有四川话和粤语两项方言任务。

它们共有的能力包括零样本声音克隆、基于自然语言的音色设计、100 多种中文音色、五种英文音色,以及笑声、呼吸、咳嗽、叹气、犹豫等 14 种行内提示。用户还可以控制情绪、语速、音高和音量。Tiny 额外提供多说话人播客生成。

这些控制项对应的是彼此独立的任务模式,并非可以任意叠加的开关。自由表达模式不能与音色设计、内置音色、情绪、方言或基础属性控制组合使用。如果产品需要一次调用中同时指定克隆说话人、情绪和方言,就必须先验证模型支持的任务契约能否表达这种组合。

本地部署:三条路径怎么选

Ming-3.0 TTS 可以通过 inclusionAI 的原生 Python 代码运行,也能接入 SGLang-Omni 的 HTTP 服务。原生 0.5B 是风险最低的首轮测试方案;原生 Tiny 可使用播客任务;SGLang-Omni 则提供最整洁的 API,但不支持渐进式音频流。

路径适用场景核心限制
原生 0.5B首次评估,以及完整体验 0.5B 控制能力官方测试使用 H800/H20
原生 Tiny播客模式和 Tiny 任务 cookbook需要独立的 CUDA 11.8 环境;推荐 H800
SGLang-Omni Tiny本地 /v1/audio/speech 端点stream=true 仍会返回完整生成后的波形

原生 0.5B 路线固定使用 PyTorch 2.6、CUDA 12.4 和 Transformers 4.46.3。数字、日期、单位和符号的文本规范化依赖 pynini==2.1.6。

git clone https://github.com/inclusionAI/Ming-3.0-tts.git
cd Ming-3.0-tts
pip install -r requirements.txt
conda install -c conda-forge pynini==2.1.6
hf download inclusionAI/Ming-3.0-tts-0.5B --local-dir Ming-3.0-tts-0.5b
python tools/preflight.py --model_path ./Ming-3.0-tts-0.5b

通过预检后,可按下面这条官方命令模式进行声音克隆测试:

python infer.py \
  --model_path ./Ming-3.0-tts-0.5b \
  --task TTS \
  --language_id English \
  --text "The release candidate passed the final test." \
  --prompt_wav_path /path/to/reference.wav \
  --prompt_text "The exact transcript of the reference recording." \
  --use_spk_emb \
  --output output/clone.wav

Tiny 固定的依赖版本不同,因此需要单独建立环境:

conda create -n ming-tiny python=3.10.15 -y
conda activate ming-tiny
pip install -r requirements-tiny.txt
hf download inclusionAI/Ming-3.0-tts-tiny --local-dir Ming-3.0-tts-tiny
python tools/preflight_tiny.py --model_path ./Ming-3.0-tts-tiny

如需通过 HTTP 提供服务,SGLang-Omni 文档给出了一套单 GPU 服务方式:

sgl-omni serve --model-path inclusionAI/Ming-3.0-tts-tiny

curl -X POST http://127.0.0.1:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "model": "inclusionAI/Ming-3.0-tts-tiny",
    "input": "The release candidate passed the final test.",
    "response_format": "wav",
    "seed": 123
  }' --output speech.wav

SGLang-Omni 支持 WAV、MP3、FLAC 和 PCM,接受一条克隆参考音频;未带路径前缀的 ref_audio 会在服务端解析。其文档中 stream=true 的行为是:等待合成结束后一次返回 PCM 内容,因此无法在生成尚未结束时同步播放。

质量证据:克隆更强,原生音色表现不一

目前最有力、且可直接获取的独立证据对应 Ming-3.0-tts-0.5B,并非 Tiny。2026 年 10 月 19 日,Artificial Analysis 在 Provider Voice 榜单中给出 Ming 1,188 Elo;该榜单使用的是模型原生音色。inclusionAI 则援引 Artificial Analysis 数据称,其 Controlled Voice Elo 为 1,069,测试中模型克隆相同的参考音色。

证据结果解读
Artificial Analysis Provider Voice1,188 Elo;2026 年 10 月 19 日排名第 18原生音色具有竞争力,但并非同类领先
inclusionAI 转述的 Controlled Voice1,069 Elo;发布时在开放权重模型中排名第一声音克隆才是更强的信号
厂商中文 WER0.5B 为 0.800%;Tiny 为 0.820%内容准确度接近
厂商中文说话人相似度0.5B 为 0.758;Tiny 为 0.781Tiny 更偏向保留说话人特征
厂商韩语 CER0.5B 为 1.728%;Tiny 为 6.000%Tiny 不应作为韩语的默认选择

在当日的Artificial Analysis Provider Voice 排行榜中,Ming 在开放权重模型里落后于 Fish Audio Drama 3 Preview 和 Breeze TTS 2。Provider Voice 测的是原生音色,Controlled Voice 测的是克隆能力,两者回答的并不是同一个问题。

Tiny 的细项分数均来自 inclusionAI 的评测表。该表显示,它在德语和西班牙语上的 WER 分别低至 0.325% 和 0.971%,但韩语 CER 达到 6.000%。inclusionAI 也在官方 Tiny 模型卡中将韩语准确度列为局限之一。

影响生产落地的短板

Ming-3.0 TTS 没有公开托管 API 的价格,没有针对 Tiny 检查点的独立竞技场成绩,也没有官方消费级 GPU 配置要求。对于没有 H800 级基础设施的团队,这些缺口意味着难以可靠地规划容量。

0.5B 的部署方案在 H800-80GB 和 H20-96G 上测试过;Tiny 推荐使用 H800,而 SGLang-Omni 仅说明其服务器使用一张 GPU。官方并未公布 RTX 4090 的显存占用、Apple Silicon 性能、Tiny 的实时因子、并发能力或每生成一小时音频的成本。

一位发布当天的实践者这样概括了它的吸引力与证据空白:

“Ant 开源了一个 0.5B 模型,能够克隆声音、根据文本设计新声音,还能让它笑、叹气……”——David Hendrickson (@TeksEdge)

同一条帖子还指出,项目缺少 GGUF 构建版本和消费级 GPU 基准。这属于用户观察,而非硬件测量;生产决策仍应以本地加载和延迟测试为依据。

官方 Tiny 模型卡指出,它的音高控制弱于语速和音量控制;在多个副语言事件同时出现时稳定性会下降;播客任务结果为 2.03% CER、2.12 UTMOS,低于 ZipVoice-Dia 的 2.24 UTMOS。官方仓库路线图中,技术报告仍被列为未完成状态。

适用工作负载与采用门槛

如果目标是自托管声音克隆、富表现力旁白、中文方言任务,或采用可商用的开放权重,Ming-3.0 TTS 值得纳入评估。但对于低延迟语音对话代理,或希望在 24 GB 桌面 GPU 上稳定、可预测地运行的场景,它还不是默认选择。

工作负载结论原因
声音克隆建议评估厂商报告的 Controlled Voice 成绩是目前最强的克隆信号
中文/英文表现力旁白建议评估提供 14 种行内事件及明确的表达控制
德语或西班牙语合成值得关注Tiny 在 inclusionAI 的 WER 表中领先;但证据仍由厂商产出
韩语合成优先选 0.5B,而非 Tiny厂商 CER 为 1.728% 对 6.000%
多说话人播客使用 Tiny播客模式仅 Tiny 支持
实时语音代理暂不推荐文档中的 SGLang 端点不支持渐进式流输出
消费级 GPU 部署承诺前先测试缺少官方 4090 级硬件要求与吞吐数据
商业自托管允许代码和权重均采用 MIT 许可证

进入生产前,应使用有代表性的输入验证四项内容:说话人特征保留效果、日期和符号的规范化、目标 GPU 上的延迟与并发能力,以及所需控制项是否与模型任务模式兼容。先从 0.5B 开始;只有在 Tiny 的播客模式或说话人相似度提升能带来可量化收益时,再升级到 Tiny。

常见问题

声音克隆需要提供参考音频的文字稿吗?

inclusionAI 的原生克隆示例要求提供参考音频及其对应文字稿。SGLang-Omni 接受 ref_text,但其文档说明该文本不会改变说话人嵌入。

Ming-3.0 TTS 能在 RTX 4090 上运行吗?

目前没有官方 RTX 4090 显存占用或吞吐结果。即便能够成功加载,也不能说明已具备生产可用性;仍需在目标显卡上测量延迟、长输入稳定性和并发请求表现。

Ming-3.0 TTS 提供托管 API 吗?

inclusionAI 发布的是本地 Python 和 CLI 接口,并未提供定价明确的托管 API。SGLang-Omni 可通过本地 /v1/audio/speech 端点暴露 Tiny,但该端点不支持渐进式音频流输出。