阿里发布实时语音模型 Qwen-Audio-3.0-Realtime：毫秒级响应下实现深度推理与智能工具调用

今天，一款实时语音交互对话模型正式亮相——Qwen-Audio-3.0-Realtime。

它的定位很明确：既要毫秒级响应，又不牺牲推理深度。

在智商、Agent工具调用、共情对话、双工交互流畅度四条主线上同步升级，力求“又快又聪明”。

模型提供推理更强的Plus版本与速度更快的Flash版本，适用于智能客服、教育培训、娱乐互动与情感陪伴等场景。

核心升级点包括：

• 模型在智商、工具调用、共情与交互流畅度四大主线同步升级；
• “压时延不掉智商”的技术突破与基准测试表现；
• 无需明确指令即可自行调用并记忆工具结果的智能Agent能力。

又快又聪明：压时延不掉智商

实时语音模型往往为压低时延牺牲推理深度，智商衰减。但Qwen-Audio-3.0-Realtime针对日常对话、简单问答等对时延敏感的场景，能够直接生成回复，毫秒级响应。

在考验“AI会不会答”的语音问答基准VoiceBench上，以书面化的标准prompt和口语化的prompt提问，Plus版本得分分别为92.5和90.5，仅下降2.0——这意味着模型能扛住真人说话的随意性。

在更难的多轮音频对话挑战AudioMultiChallenge基准测试中，Flash版本标准和口语化prompt得分分别为43.6和38.1，仅下降5.5。

今年5月，Preview版本Fun-Realtime-Audiochat在“语音推理能力”指标上曾以97.6%登顶Artificial Analysis。

能聊天更能办事：无需明确指令，自行调用工具

文本大模型的Agent能力已相当成熟，但语音模型往往“能聊天不能办事”：需要用户明显说出“帮我打开XX”才能触发工具，并且切回闲聊后容易出现上下文断裂。

Qwen-Audio-3.0-Realtime无需明确指令即可自行调用外部工具——调用结果还会自动融入对话记忆。一次调用的结果会被记住，后面几轮追问都能接着用。

例如用户先问“附近有什么川菜馆”，再追问“评分4.5以上的哪家最近”，模型会自动衔接地图工具上一次的返回结果继续检索。

模型基于FunctionCall标准协议，可以完成MCP、API、知识库的引入。

摆脱机械感：随语境调整语气、节奏与情感

共情对话是本版本最能改变用户主观体验的部分。Qwen-Audio-3.0-Realtime摆脱了传统语音助手的机械感，可根据对话语境动态调整语气、节奏、音调与情感。

在辩论场景中，模型能准确抓取对方论点并快速组织反驳，同时保持恰当的语气强度；在情感陪伴中，则通过语调、节奏与笑声、叹息、犹豫等副语言信号进行共情回应。

在专门考“AI说得像不像人”的S2S语音指令遵循公开基准VStyle上，模型取得SOTA成绩。

像真人一样对话：边说边听，随时打断插话

双工交互流畅度，意味着模型能边说边听，像真人一样随时打断、插话，而非一问一答的对讲机模式。

Qwen-Audio-3.0-Realtime内置“多模态感知的双工控制”子模型，通过分析音频信号、语义内容与说话人声纹特征，来判断如何交谈。

在嘈杂环境中，它表现稳定：

• 在餐厅、开放工区等嘈杂环境中，它不会被背景噪声误打断；
• 在多人讨论中能锁定主对话对象、忽略旁听者交谈；
• 在多说话人切换时，则能根据语义线索自然过渡。

今年5月，Preview版本在对话流畅度指标上曾以97.8%登顶Artificial Analysis。此外，模型的API还预留了audio_prompt字段，用户可上传提前录制的音频样本，锁定声纹，聚焦特定的说话人。

On-Policy Distillation与多教师蒸馏

上述能力的提升，源于模型采用的On-Policy Distillation（在线策略蒸馏）框架——研究团队将文本大模型的完整推理能力蒸馏至语音模型：语音模型一边自己生成回答，一边由文本大模型实时纠正。

同时引入多教师蒸馏策略，确保模型在四条主线上均不偏科：

• 口语多轮偏好教师：保障口语化表达与指令遵循；
• 通用教师：负责基础问答与推理；
• Agentic教师：锁定工具调用与复杂任务；
• 音频理解教师：处理副语言与音频语义信息。

从毫秒级响应到自行调用工具，从共情语气到边说边听，Qwen-Audio-3.0-Realtime想做的，是一个“又快又聪明”、聊起来更像真人的实时语音模型。我们期待看到大家基于它构建的下一代语音交互应用。