Qwen Audio 3.0 实时版:规格、定价与访问

最后更新: 2026-07-15 07:22:40

Qwen Audio 3.0 Realtime 是 Qwen 当前产品线中的实时音频能力:你可以与之对话,它也会立即回应,延迟低到像打电话一样。在阿里巴巴的平台上,它通过 Qwen3-Omni / Qwen3.5-Omni Realtime API 提供(模型 ID 如 qwen3-omni-flash-realtime),纯文本转语音则使用 Qwen-TTS-Realtime,而转录则使用 qwen3-asr-flash。托管的 omni Realtime 模型可识别 100 多种语言,支持带打断的全双工通信,每分钟对话成本仅为几分之一美分。

最快的接入方式是通过 WebSocket 使用 qwen3-omni-flash-realtime。下面介绍每个模型的功能、成本、与 OpenAI Realtime 和 Gemini Live 的对比,以及如何开始使用。每一项规格、价格和模型 ID 都链接到其主要来源,主要是阿里巴巴的 Model Studio Realtime 文档Qwen3-Omni 模型卡;供应商在这方面更新很快,因此如果某个数字已有变动,请以链接中的来源为准。

Qwen 音频模型如何命名

Qwen 音频系列经历了几个代际,了解其谱系可以更容易找到合适的模型:

  • Qwen-Audio(2023)和 Qwen2-Audio 是音频*理解*模型:输入音频,输出文本。它们不会回应语音。
  • 当前一代将音频整合到 omni 模型中。Qwen3-OmniQwen3.5-Omni 接收文本、图像、音频和视频,并生成文本和自然语音。
  • 实时行为是一种*交付层级*:通过 Realtime API 调用相同的 omni 模型,模型 ID 以 -realtime 结尾。

因此,“Qwen Audio 3.0 Realtime”(无论你如何标点它)指的是用于实时场景的 Qwen3-Omni 家族,而这正是本指南其余部分所介绍的技术栈。

Qwen 实时音频栈,分为三层

它有助于不要再只想着单一模型,而是把它看作一个流水线。一个生产级语音应用通常会涉及三个 Qwen 模型,你可以一起使用它们,也可以分别独立使用。

Diagram of the Qwen real-time audio stack: qwen3-asr-flash for speech-in, qwen3-omni-flash-realtime for conversation, Qwen-TTS-Realtime for speech-out

1. 语音输入 — qwen3-asr-flash. 通过 WebSocket 进行流式语音识别,针对实时字幕和语音代理前端进行了优化。它支持非常广泛的语言范围转写,并且作为廉价的转写工具型号定价。2. 实时对话 — qwen3.5-omni-flash-realtime, qwen3-omni-flash-realtime, qwen3.5-omni-plus-realtime. 这是核心:音频(以及视频帧)输入,文本和合成语音输出,通过一个持久连接在多轮之间保持打开,而不是每次请求都重新建立。3. 语音输出 — Qwen-TTS-Realtime. 一个专门的流式文本转语音模型,适用于你只需要把文本转换成语音的场景,例如朗读由文本 LLM 生成的答案。

如果你在中间层使用 omni Realtime 模型,通常就不需要单独的 ASR 和 TTS 调用,因为它可以端到端处理语音输入和语音输出。单独的模型是为了在你想要自由组合搭配时使用(例如,你自己的 STT 加上 Qwen TTS)。

真正重要的规格

以下数字来自Model Studio Realtime 文档,不是来自营销页面。

属性Qwen Realtime API (omni family)
音频输入PCM, 16 kHz
音频输出PCM, 24 kHz
其他输入图像 / 视频帧(JPG,最高 1080p,编码后 256 KB)
语音识别113 种语言和方言(hosted API)
语音生成36 种语言和方言
语音共 55 种(47 种多语言,8 种方言),另有 3.5 models 的声音克隆
连接WebSocket(Bearer auth,手动或服务端 VAD)和 WebRTC(SDP negotiation)
最长会话通过 WebSocket 可达 120 分钟
额外功能语义中断、函数调用、自主网络搜索、音量 / 语速 / 情绪语音控制

其中有几点值得强调。语义打断是指模型能够判断用户是在插话,还是只是在用“嗯哼”之类的方式进行附和,这正是自然的语音代理和令人烦躁的语音代理之间的区别。WebRTC 支持在你基于浏览器构建时非常重要,因为它会为你处理回声消除和抖动。113 种语言的识别数据针对的是托管 API;如下所述,开源权重版本覆盖的语言范围更窄。

关于延迟:专用的 Qwen-TTS-Realtime 流式路径目标大约是 97 毫秒首包延迟,根据 Qwen3-TTS 流式文档,这也是决定语音是否感觉即时的关键数值。这个数值指的是到第一个音频块的时间,而不是完整响应。对于完整的对话闭环,Thinker–Talker 设计就是为流式处理而构建的;Qwen3-Omni 技术报告描述了一种旨在最小化延迟的多 codebook 设计,社区测试则显示,在全双工、可打断轮次下,音频到音频的响应处于 250 毫秒以内 的范围。实际数值取决于你的地区、网络和负载,因此应基于你自己的流量进行测量,而不是相信某个单一的宣传数字。

Qwen 实时音频定价,直观数字版

Qwen 的托管实时价格明显低于封闭式实时 API。这些是按百万 token 计算的费率(输入 / 输出),如 Portkey 的 DashScope 模型目录 中所列(这是一个第三方聚合器,镜像了阿里巴巴的费率;在你签约之前,请先在 Model Studio 控制台 中确认实时价格):

模型输入 / 1M tok输出 / 1M tok
qwen-omni-turbo-realtime$0.27$1.07
qwen3-omni-flash-realtime$0.52$1.99
qwen3-asr-flash(转录)$0.04$0.04

这意味着每次调用的含义。 音频的 token 消耗很高:大约每分钟音频 427 个 token。以一次 10 分钟的语音通话为例,用户说 5 分钟,模型回复 5 分钟。在 qwen3-omni-flash-realtime 上,这大约是 2,135 个输入 token 和 2,135 个输出 token,因此大约是 输入 $0.001 + 输出 $0.004 ≈ 每 10 分钟通话半美分。即使在大规模场景下,实时音频也很便宜;真正让人意外的成本是输出端的通话时间,因为语音回复的定价大约是输入的 4 倍。

在您制定预算之前,还有两件事:

  • 存在免费额度,但它是区域性的。 新加坡(国际)端点提供过 90 天内 100 万输入和 100 万输出 token 免费;美国端点则没有。配额会变化,因此在据此规划之前,请先在适用于您所在区域的 Model Studio 控制台 中确认当前优惠。
  • qwen3.5-omni 层级采用按请求大小分档的定价,而不是统一费率,因此一次大上下文请求可能会落入不同于多次小请求的价格区间。在正式采用前,请使用您的真实流量形态进行测试。

与 OpenAI Realtime 和 Gemini Live 的对比

在通用前沿 LLM 供应商中,2026 年中显而易见的三种实时语音转语音选项是 OpenAI 的 Realtime API、Google 的 Gemini Live,以及 Qwen 的 omni Realtime 家族。(像 ElevenLabs、Deepgram、Cartesia 和 Hume 这样的专业语音提供商主要在 TTS 和 STT 上竞争;本比较关注的是完整的多模态模型路线。)与其引用每月变化的竞争对手价格,不如这样来思考如何选择:

  • 成本。 按上面显示的单次调用费率,Qwen 的实时定价处于托管前沿模型选项的低端。相比之下,OpenAI 的 Realtime 音频的价格大约为每分钟输入 $0.06、每分钟输出 $0.24定价明细见此);按这个标准,同样一个 10 分钟通话在 qwen3-omni-flash-realtime 上的成本约为半美分,而在 OpenAI 上则接近$1.50。在依赖这一差距之前,请先确认双方的实时费率,因为这些价格都会变化,但差距确实很大。Qwen 也是三者中唯一提供开源权重版本的,你可以自行托管,将边际成本降至接近零。
  • 开放性。 OpenAI Realtime 和 Gemini Live 都只提供封闭 API。Qwen3-Omni 提供开源权重,因此你可以从托管切换到自托管,而无需围绕新模型的行为重写应用。
  • 质量。 第三方报道显示,顶级的 qwen3.5-omni-plus 档位在一些音频理解基准上与 Gemini 3.1 Pro 持平甚至更胜一筹;请将任何单一基准都视为起始假设,并在你自己的音频上进行测试。
  • 生态系统。 目前 OpenAI 和 Google 拥有更完善的工具、SDK 和社区示例。Qwen 的文档也不错,但你会更多依赖原始的 WebSocket/WebRTC 规范。

实用性的结论是:如果成本或自托管选项很重要,Qwen 是最强的选择。如果你想要最成熟的 SDK 体验,并且愿意为此付费,OpenAI 和 Google 的方案在打磨程度上仍然领先。有关闭源替代方案的完整成本明细,请参见下面的相关阅读。

您应该选择哪个版本?

您的情况使用
最便宜的托管完整语音循环qwen3-omni-flash-realtime
最佳托管质量、更长会话、语音克隆qwen3.5-omni-plus-realtime
您只需要转录qwen3-asr-flash
您只需要文本转语音Qwen-TTS-Realtime
数据必须保留在您自己的硬件上自托管开源权重 Qwen3-Omni (30B-A3B)

3.5 档位新增了语音克隆以及更长的上下文和对话限制(最多 100 轮和 600 秒的保留音频),相比之下,精简版 qwen3-omni-flash 只有 8 轮。如果你正在做原型开发,先从 Flash 开始;只有当你遇到一个能明确说出的限制时,再切换到 Plus。

如何访问它

托管方式,最直接的办法。Alibaba Cloud Model Studio 中提供 API key,然后使用 Bearer 认证建立 WebSocket 连接(或者为浏览器应用通过 SDP POST 协商 WebRTC)。你向上游流式发送 PCM 音频,并接收下游返回的 PCM 音频和文本。如果你不想手动管理 socket,DashScope Python SDK 会对 Realtime 接口进行封装。基础连接很简短(仅示意,省略错误处理):

```python import os, json, base64, websocket

MODEL = "qwen3-omni-flash-realtime" url = f"wss://dashscope-intl.aliyuncs.com/api-ws/v1/realtime?model={MODEL}" ws = websocket.create_connection( url, header=[f"Authorization: Bearer {os.environ['DASHSCOPE_API_KEY']}"] )

# 1. 配置会话:语音、输出格式、服务端轮次检测 ws.send(json.dumps({ "type": "session.update", "session": { "voice": "Cherry", "output_audio_format": "pcm24", "turn_detection": {"type": "server_vad"}, }, }))

# 2. 将麦克风音频以上传为 base64 PCM 16 kHz 帧 ws.send(json.dumps({ "type": "input_audio_buffer.append", "audio": base64.b64encode(pcm_frame).decode(), }))

# 3. 读取事件回传;response.audio.delta 携带 24 kHz PCM,用于播放 while True: event = json.loads(ws.recv()) if event["type"] == "response.audio.delta": play(base64.b64decode(event["audio"])) ```

使用服务器端 VAD 时,由模型决定用户何时停止说话;如果你想自行控制轮次边界,请切换到手动模式。事件流与 OpenAI Realtime 的结构高度一致,因此现有的 Realtime 客户端代码只需少量修改即可迁移。请在发布前根据 Realtime 文档 确认准确的字段名、voice 列表以及区域端点主机,因为这些内容在新加坡和美国部署之间有所不同,并且会随着 API 演进而变化。

自托管。 开放权重的 Qwen3-Omni 采用 Thinker–Talker 混合专家设计(总计 30B,约 3B 激活)。阿里巴巴建议对其使用 vLLM,而不是直接使用 Transformers。对于完整 30B 模型的 BF16 推理,第三方部署指南将最低配置定为单张 80GB 显卡(A100 或 H100);像 RTX 4090 这样的 24 GB 显卡不足以加载完整权重,不过量化版本会降低这一门槛。

问题在于,实时服务比批量推理更难。自托管用户报告称,他们不得不限制 KV cache,以避免在并发负载下出现停顿,而且单卡 token 吞吐量也落后于托管 API。针对流式处理调优的服务栈缩小了其中很大一部分差距:在 Red Hat AI 和 vLLM 上工作的工程师报告说,让流水线各阶段重叠后,3 秒音频片段的语音生成时间从大约 8 秒缩短到约 0.5 秒。这确实是实实在在的提升,但也需要额外的工程投入。自托管在增加 GPU 和运维成本的同时消除了按 token 计费的成本,因此它更适合高且稳定的使用量,而不是原型验证。

对于当前的实时全渠道语音,DashScope 端点是标准路径。如果你的技术栈已经通过一个网关路由多个提供商,聚合器也可以放在它前面,但请先确认其目录中包含特定的 Qwen realtime model IDs,因为许多中继只支持文本和图像模型,而不包含实时音频层。

在基于它进行构建之前值得了解的限制

  • 会话上限为 120 分钟。 对于更长的场景,例如客服热线或长时间辅导会话,你需要实现重连逻辑,以便在不同 socket 之间传递上下文。
  • 区域会同时影响免费额度和可用性。 请针对你将要部署的端点进行测试,而不是你最初注册时所选的那个端点。
  • 托管版和 open-weight 版并不完全相同。 托管 API 声称支持 113 种语言识别和 36 种语言生成;open-weight Qwen3-Omni release 覆盖的范围更窄(19 种语音输入语言和 10 种语音输出语言)。如果某种特定语言是你的要求,请在你计划发布的具体变体上进行验证。
  • 实时成本按通话时长而非请求次数计费。 由于音频会占用大量 token,健谈用户的成本会比简短用户更高。请按对话分钟数来估算账单,而不是按调用次数。

常见问题

Qwen 3 支持音频吗?

是的。Qwen3-Omni 模型是原生多模态的:它们可以将音频、文本、图像和视频作为输入,并能实时以文本或语音响应。

Qwen 能生成音频(而不仅仅是理解音频)吗?

是的。与最初的 Qwen-Audio 不同,后者仅生成文本,omni Realtime 模型和 Qwen-TTS-Realtime 会生成口语音频输出,包括 3.5 层级上的克隆语音。

Qwen 实时音频是免费的吗?

国际(新加坡)端点历史上提供 90 天的免费试用额度,包括 100 万输入 tokens 和 100 万输出 tokens。超出后按 token 计费;如果你提供自己的 GPU,完全开源权重的 Qwen3-Omni 可以免费运行。

如何在本地运行 Qwen audio?

下载开源权重的 Qwen3-Omni(30B-A3B)并使用 vLLM 进行部署。对于 BF16 格式的完整模型,您需要大约一张 80GB 显卡(A100 或 H100);较小的消费级 GPU 只能运行量化版本,无法承载完整权重。

相关阅读

主要来源:

替代方案的价格如下: