Qwen Audio 3.0 Realtime 是 Qwen 当前产品线中的实时音频能力:你可以与之对话,它也会立即回应,延迟低到像打电话一样。在阿里巴巴的平台上,它通过 Qwen3-Omni / Qwen3.5-Omni Realtime API 提供(模型 ID 如 qwen3-omni-flash-realtime),纯文本转语音则使用 Qwen-TTS-Realtime,而转录则使用 qwen3-asr-flash。托管的 omni Realtime 模型可识别 100 多种语言,支持带打断的全双工通信,每分钟对话成本仅为几分之一美分。
最快的接入方式是通过 WebSocket 使用 qwen3-omni-flash-realtime。下面介绍每个模型的功能、成本、与 OpenAI Realtime 和 Gemini Live 的对比,以及如何开始使用。每一项规格、价格和模型 ID 都链接到其主要来源,主要是阿里巴巴的 Model Studio Realtime 文档和 Qwen3-Omni 模型卡;供应商在这方面更新很快,因此如果某个数字已有变动,请以链接中的来源为准。
Qwen 音频模型如何命名
Qwen 音频系列经历了几个代际,了解其谱系可以更容易找到合适的模型:
Qwen-Audio(2023)和Qwen2-Audio是音频*理解*模型:输入音频,输出文本。它们不会回应语音。- 当前一代将音频整合到 omni 模型中。
Qwen3-Omni和Qwen3.5-Omni接收文本、图像、音频和视频,并生成文本和自然语音。 - 实时行为是一种*交付层级*:通过 Realtime API 调用相同的 omni 模型,模型 ID 以
-realtime结尾。
因此,“Qwen Audio 3.0 Realtime”(无论你如何标点它)指的是用于实时场景的 Qwen3-Omni 家族,而这正是本指南其余部分所介绍的技术栈。
Qwen 实时音频栈,分为三层
它有助于不要再只想着单一模型,而是把它看作一个流水线。一个生产级语音应用通常会涉及三个 Qwen 模型,你可以一起使用它们,也可以分别独立使用。
1. 语音输入 — qwen3-asr-flash. 通过 WebSocket 进行流式语音识别,针对实时字幕和语音代理前端进行了优化。它支持非常广泛的语言范围转写,并且作为廉价的转写工具型号定价。2. 实时对话 — qwen3.5-omni-flash-realtime, qwen3-omni-flash-realtime, qwen3.5-omni-plus-realtime. 这是核心:音频(以及视频帧)输入,文本和合成语音输出,通过一个持久连接在多轮之间保持打开,而不是每次请求都重新建立。3. 语音输出 — Qwen-TTS-Realtime. 一个专门的流式文本转语音模型,适用于你只需要把文本转换成语音的场景,例如朗读由文本 LLM 生成的答案。
如果你在中间层使用 omni Realtime 模型,通常就不需要单独的 ASR 和 TTS 调用,因为它可以端到端处理语音输入和语音输出。单独的模型是为了在你想要自由组合搭配时使用(例如,你自己的 STT 加上 Qwen TTS)。
真正重要的规格
以下数字来自Model Studio Realtime 文档,不是来自营销页面。
| 属性 | Qwen Realtime API (omni family) |
|---|---|
| 音频输入 | PCM, 16 kHz |
| 音频输出 | PCM, 24 kHz |
| 其他输入 | 图像 / 视频帧(JPG,最高 1080p,编码后 256 KB) |
| 语音识别 | 113 种语言和方言(hosted API) |
| 语音生成 | 36 种语言和方言 |
| 语音 | 共 55 种(47 种多语言,8 种方言),另有 3.5 models 的声音克隆 |
| 连接 | WebSocket(Bearer auth,手动或服务端 VAD)和 WebRTC(SDP negotiation) |
| 最长会话 | 通过 WebSocket 可达 120 分钟 |
| 额外功能 | 语义中断、函数调用、自主网络搜索、音量 / 语速 / 情绪语音控制 |
其中有几点值得强调。语义打断是指模型能够判断用户是在插话,还是只是在用“嗯哼”之类的方式进行附和,这正是自然的语音代理和令人烦躁的语音代理之间的区别。WebRTC 支持在你基于浏览器构建时非常重要,因为它会为你处理回声消除和抖动。113 种语言的识别数据针对的是托管 API;如下所述,开源权重版本覆盖的语言范围更窄。
关于延迟:专用的 Qwen-TTS-Realtime 流式路径目标大约是 97 毫秒首包延迟,根据 Qwen3-TTS 流式文档,这也是决定语音是否感觉即时的关键数值。这个数值指的是到第一个音频块的时间,而不是完整响应。对于完整的对话闭环,Thinker–Talker 设计就是为流式处理而构建的;Qwen3-Omni 技术报告描述了一种旨在最小化延迟的多 codebook 设计,社区测试则显示,在全双工、可打断轮次下,音频到音频的响应处于 250 毫秒以内 的范围。实际数值取决于你的地区、网络和负载,因此应基于你自己的流量进行测量,而不是相信某个单一的宣传数字。
Qwen 实时音频定价,直观数字版
Qwen 的托管实时价格明显低于封闭式实时 API。这些是按百万 token 计算的费率(输入 / 输出),如 Portkey 的 DashScope 模型目录 中所列(这是一个第三方聚合器,镜像了阿里巴巴的费率;在你签约之前,请先在 Model Studio 控制台 中确认实时价格):
| 模型 | 输入 / 1M tok | 输出 / 1M tok |
|---|---|---|
qwen-omni-turbo-realtime | $0.27 | $1.07 |
qwen3-omni-flash-realtime | $0.52 | $1.99 |
qwen3-asr-flash(转录) | $0.04 | $0.04 |
这意味着每次调用的含义。 音频的 token 消耗很高:大约每分钟音频 427 个 token。以一次 10 分钟的语音通话为例,用户说 5 分钟,模型回复 5 分钟。在 qwen3-omni-flash-realtime 上,这大约是 2,135 个输入 token 和 2,135 个输出 token,因此大约是 输入 $0.001 + 输出 $0.004 ≈ 每 10 分钟通话半美分。即使在大规模场景下,实时音频也很便宜;真正让人意外的成本是输出端的通话时间,因为语音回复的定价大约是输入的 4 倍。
在您制定预算之前,还有两件事:
- 存在免费额度,但它是区域性的。 新加坡(国际)端点提供过 90 天内 100 万输入和 100 万输出 token 免费;美国端点则没有。配额会变化,因此在据此规划之前,请先在适用于您所在区域的 Model Studio 控制台 中确认当前优惠。
qwen3.5-omni层级采用按请求大小分档的定价,而不是统一费率,因此一次大上下文请求可能会落入不同于多次小请求的价格区间。在正式采用前,请使用您的真实流量形态进行测试。
与 OpenAI Realtime 和 Gemini Live 的对比
在通用前沿 LLM 供应商中,2026 年中显而易见的三种实时语音转语音选项是 OpenAI 的 Realtime API、Google 的 Gemini Live,以及 Qwen 的 omni Realtime 家族。(像 ElevenLabs、Deepgram、Cartesia 和 Hume 这样的专业语音提供商主要在 TTS 和 STT 上竞争;本比较关注的是完整的多模态模型路线。)与其引用每月变化的竞争对手价格,不如这样来思考如何选择:
- 成本。 按上面显示的单次调用费率,Qwen 的实时定价处于托管前沿模型选项的低端。相比之下,OpenAI 的 Realtime 音频的价格大约为每分钟输入 $0.06、每分钟输出 $0.24(定价明细见此);按这个标准,同样一个 10 分钟通话在
qwen3-omni-flash-realtime上的成本约为半美分,而在 OpenAI 上则接近$1.50。在依赖这一差距之前,请先确认双方的实时费率,因为这些价格都会变化,但差距确实很大。Qwen 也是三者中唯一提供开源权重版本的,你可以自行托管,将边际成本降至接近零。 - 开放性。 OpenAI Realtime 和 Gemini Live 都只提供封闭 API。Qwen3-Omni 提供开源权重,因此你可以从托管切换到自托管,而无需围绕新模型的行为重写应用。
- 质量。 第三方报道显示,顶级的
qwen3.5-omni-plus档位在一些音频理解基准上与 Gemini 3.1 Pro 持平甚至更胜一筹;请将任何单一基准都视为起始假设,并在你自己的音频上进行测试。 - 生态系统。 目前 OpenAI 和 Google 拥有更完善的工具、SDK 和社区示例。Qwen 的文档也不错,但你会更多依赖原始的 WebSocket/WebRTC 规范。
实用性的结论是:如果成本或自托管选项很重要,Qwen 是最强的选择。如果你想要最成熟的 SDK 体验,并且愿意为此付费,OpenAI 和 Google 的方案在打磨程度上仍然领先。有关闭源替代方案的完整成本明细,请参见下面的相关阅读。
您应该选择哪个版本?
| 您的情况 | 使用 |
|---|---|
| 最便宜的托管完整语音循环 | qwen3-omni-flash-realtime |
| 最佳托管质量、更长会话、语音克隆 | qwen3.5-omni-plus-realtime |
| 您只需要转录 | qwen3-asr-flash |
| 您只需要文本转语音 | Qwen-TTS-Realtime |
| 数据必须保留在您自己的硬件上 | 自托管开源权重 Qwen3-Omni (30B-A3B) |
3.5 档位新增了语音克隆以及更长的上下文和对话限制(最多 100 轮和 600 秒的保留音频),相比之下,精简版 qwen3-omni-flash 只有 8 轮。如果你正在做原型开发,先从 Flash 开始;只有当你遇到一个能明确说出的限制时,再切换到 Plus。
如何访问它
托管方式,最直接的办法。 在 Alibaba Cloud Model Studio 中提供 API key,然后使用 Bearer 认证建立 WebSocket 连接(或者为浏览器应用通过 SDP POST 协商 WebRTC)。你向上游流式发送 PCM 音频,并接收下游返回的 PCM 音频和文本。如果你不想手动管理 socket,DashScope Python SDK 会对 Realtime 接口进行封装。基础连接很简短(仅示意,省略错误处理):
```python import os, json, base64, websocket
MODEL = "qwen3-omni-flash-realtime" url = f"wss://dashscope-intl.aliyuncs.com/api-ws/v1/realtime?model={MODEL}" ws = websocket.create_connection( url, header=[f"Authorization: Bearer {os.environ['DASHSCOPE_API_KEY']}"] )
# 1. 配置会话:语音、输出格式、服务端轮次检测 ws.send(json.dumps({ "type": "session.update", "session": { "voice": "Cherry", "output_audio_format": "pcm24", "turn_detection": {"type": "server_vad"}, }, }))
# 2. 将麦克风音频以上传为 base64 PCM 16 kHz 帧 ws.send(json.dumps({ "type": "input_audio_buffer.append", "audio": base64.b64encode(pcm_frame).decode(), }))
# 3. 读取事件回传;response.audio.delta 携带 24 kHz PCM,用于播放 while True: event = json.loads(ws.recv()) if event["type"] == "response.audio.delta": play(base64.b64decode(event["audio"])) ```
使用服务器端 VAD 时,由模型决定用户何时停止说话;如果你想自行控制轮次边界,请切换到手动模式。事件流与 OpenAI Realtime 的结构高度一致,因此现有的 Realtime 客户端代码只需少量修改即可迁移。请在发布前根据 Realtime 文档 确认准确的字段名、voice 列表以及区域端点主机,因为这些内容在新加坡和美国部署之间有所不同,并且会随着 API 演进而变化。
自托管。 开放权重的 Qwen3-Omni 采用 Thinker–Talker 混合专家设计(总计 30B,约 3B 激活)。阿里巴巴建议对其使用 vLLM,而不是直接使用 Transformers。对于完整 30B 模型的 BF16 推理,第三方部署指南将最低配置定为单张 80GB 显卡(A100 或 H100);像 RTX 4090 这样的 24 GB 显卡不足以加载完整权重,不过量化版本会降低这一门槛。
问题在于,实时服务比批量推理更难。自托管用户报告称,他们不得不限制 KV cache,以避免在并发负载下出现停顿,而且单卡 token 吞吐量也落后于托管 API。针对流式处理调优的服务栈缩小了其中很大一部分差距:在 Red Hat AI 和 vLLM 上工作的工程师报告说,让流水线各阶段重叠后,3 秒音频片段的语音生成时间从大约 8 秒缩短到约 0.5 秒。这确实是实实在在的提升,但也需要额外的工程投入。自托管在增加 GPU 和运维成本的同时消除了按 token 计费的成本,因此它更适合高且稳定的使用量,而不是原型验证。
对于当前的实时全渠道语音,DashScope 端点是标准路径。如果你的技术栈已经通过一个网关路由多个提供商,聚合器也可以放在它前面,但请先确认其目录中包含特定的 Qwen realtime model IDs,因为许多中继只支持文本和图像模型,而不包含实时音频层。
在基于它进行构建之前值得了解的限制
- 会话上限为 120 分钟。 对于更长的场景,例如客服热线或长时间辅导会话,你需要实现重连逻辑,以便在不同 socket 之间传递上下文。
- 区域会同时影响免费额度和可用性。 请针对你将要部署的端点进行测试,而不是你最初注册时所选的那个端点。
- 托管版和 open-weight 版并不完全相同。 托管 API 声称支持 113 种语言识别和 36 种语言生成;open-weight Qwen3-Omni release 覆盖的范围更窄(19 种语音输入语言和 10 种语音输出语言)。如果某种特定语言是你的要求,请在你计划发布的具体变体上进行验证。
- 实时成本按通话时长而非请求次数计费。 由于音频会占用大量 token,健谈用户的成本会比简短用户更高。请按对话分钟数来估算账单,而不是按调用次数。
常见问题
Qwen 3 支持音频吗?
是的。Qwen3-Omni 模型是原生多模态的:它们可以将音频、文本、图像和视频作为输入,并能实时以文本或语音响应。
Qwen 能生成音频(而不仅仅是理解音频)吗?
是的。与最初的 Qwen-Audio 不同,后者仅生成文本,omni Realtime 模型和 Qwen-TTS-Realtime 会生成口语音频输出,包括 3.5 层级上的克隆语音。
Qwen 实时音频是免费的吗?
国际(新加坡)端点历史上提供 90 天的免费试用额度,包括 100 万输入 tokens 和 100 万输出 tokens。超出后按 token 计费;如果你提供自己的 GPU,完全开源权重的 Qwen3-Omni 可以免费运行。
如何在本地运行 Qwen audio?
下载开源权重的 Qwen3-Omni(30B-A3B)并使用 vLLM 进行部署。对于 BF16 格式的完整模型,您需要大约一张 80GB 显卡(A100 或 H100);较小的消费级 GPU 只能运行量化版本,无法承载完整权重。
相关阅读
主要来源:
替代方案的价格如下:
