语音转写和语音生成已取得很大进展,但构建能倾听、推理、交互并处理复杂工作流的端到端语音智能体仍很困难。可靠语音智能体需同时做好四件事:在多种语言和口音中准确聆听,结合语境深入理解意图,带情感自然说话,并通过系统分多步行动。让它们实时稳定协同仍是挑战。为此,我们推出 Voxtral 3:全新的语音转文本与文本转语音模型系列。
正文
语音转录和语音生成已经取得很大进展,但构建能够聆听、推理、交互并处理复杂工作流的端到端语音智能体仍然困难。
一个可靠的语音智能体需要同时做好四件事:
- 准确聆听:跨语言、口音、说话人以及打断情况;
- 深度推理:结合具体语境理解用户意图;
- 自然说话:带有情绪和表现力;
- 采取行动:通过连接的系统完成多步骤操作。
让这四件事在实时环境中稳定协同运行,至今仍是一项挑战。
为此,我们推出 Voxtral 3:一个新的先进语音转文本和文本转语音模型系列,以及一个把聆听、思考、工具调用和说话整合进单一实时流管道的语音智能体 SDK。
Voxtral 3 旨在创造自然的对话体验,覆盖联络中心智能体、服务台、虚拟助手和免提副驾等场景。借助对数十种语言、富有表现力的语音、复杂推理以及与自有工具和数据深度集成的支持,基于 Voxtral 构建的智能体能够理解细微意图、对复杂请求进行推理,并在连接的系统中执行多步骤操作。
与其他 Mistral 模型一样,Voxtral 3 系列为数据主权部署而设计。它现已通过 Mistral 的欧盟托管 API 提供,也支持在你自己的基础设施上自部署,让组织控制音频处理地点、数据处理方式以及是否保留对话。
亮点
- 跨 50 多种语言的准确转录。语音转文本模型 Voxtral Small Transcribe 3 在多语言转录方面达到最先进水平,能够识别谁说了什么(说话人分离,diarization),并通过关键短语提升准确率(上下文偏置,context-biasing)。它能检测某人是否已说完(话轮结束检测),让智能体无需延迟即可回应。
- 能随对话调整的自然语音。文本转语音模型 Voxtral Mini TTS 3 引入新音色,可根据对话上下文调整情绪、节奏和重音,支持 35 种以上语言和 50 多种方言。
- 由口语指令驱动的类人智能。新的语音智能体 SDK 将聆听、推理、工具调用和说话整合为实时体验。智能体可在电话或网页的实时对话中检索信息、与业务系统交互并完成任务。
- Pro Voice,用于高度准确的语音适配。在基础声音克隆不够用的专业场景中,Voxtral 的 Pro Voice 适配仅需 30 分钟音频,就能跨语言复现说话人的独特特质、情绪范围和说话风格。
- 部署在你自己基础设施上的语音 AI。使用 Mistral 的欧盟托管 API,或在自有基础设施上部署 Voxtral 3。让敏感对话留在你的环境中,并自行控制是否保留任何音频。
它能以最先进的准确率听懂 50 多种语言
Voxtral Transcribe 3 在转录、说话人分离(谁在何时说话)和上下文偏置能力上代表了重要里程碑。支持的语言扩展到 50 种,包括 24 种欧盟官方语言以及许多资源较少的亚洲和印度语系语言。
Small 版本在说话人分离和多语言转录(包括英语、法语和西班牙语)上取得最先进结果,优于 Whisper、Scribe v2 和 Gemini 3.5 Transcribe。Mini 版本为 40 亿参数,能以每分钟 0.0035 美元的价格实现快速准确的转录。
两个模型都支持上下文偏置:可以提供关键术语和自由文本来偏置转录,提高技术术语的召回率。这使得它们无需微调即可用于包含领域特定词汇的生产环境。
FLEURS 45:强制指定与自动推断
词错误率——越低越好
- 强制指定(Forced)
- 自动推断(Inferred)
在所有七个模型都支持的 FLEURS 基准 45 种语言交集上的宏平均 WER。除日语、韩语、泰语和中文使用 CER 外,其余语言均使用 WER。数值越低越好。Forced = 指定语言;Inferred = 自动检测语言。语言列表:AR、BN、BG、CA、ZH、CS、DA、NL、EN、ET、FI、FR、DE、EL、GU、HI、HU、IS、ID、IT、JA、KN、KO、LV、LT、MK、MS、ML、MR、NO、FA、PL、PT、RO、RU、SK、SL、ES、SV、FIL、TE、TH、TR、UK、VI。
说话人分离
拼接最小排列 WER——越低越好
在公开说话人分离基准(AMI-IHM、AMI-SDM、Switchboard、Switchboard CallHome、AISHELL-4)上的宏平均拼接最小排列 WER(cpWER)。为最大程度兼容 API 基线,我们使用 AMI 和 AISHELL 的 30 分钟版本。数值越低越好。
关键短语召回率
有无上下文提示对比——越高越好
- 无上下文
- 有上下文
Voxtral Small Transcribe 3 以品牌色突出显示。关键短语召回率基于 Earnings 22 基准。上下文偏置包含关键词以及随机采样的干扰词,数量从 0 到 100 不等。条形图为叠加的绝对值——外层条是有上下文时的召回率,内层条是无上下文时的召回率;可见带状部分即上下文提示带来的提升。数值越高越好。该基准中的上下文 = 提供给模型的领域特定词汇和说话人姓名。
Artificial Analysis 基准
词错误率——越低越好
Artificial Analysis WER 指数,是对 VoxPopuli、Earnings-22 和 AgentTalk 的加权平均。数值越低越好。
Voxtral Realtime Transcribe 3 是一款为智能体场景构建的实时转录模型。它在 35 种以上语言中以低于 500 毫秒的延迟实现高质量转录,并支持说话人分离和上下文偏置。
FLEURS 35
实时转录词错误率——越低越好
FLEURS 基准中 35 种语言的宏平均 WER。除日语、韩语和中文使用 CER 外,其余语言均使用 WER。数值越低越好。*Voxtral Mini Transcribe 3 是离线基线模型;其余模型均为实时模型。
语言:AR、BN、BG、CA、CS、NL、EN、ET、FI、FR、DE、EL、GU、HI、ID、IT、JA、KN、KO、LV、MK、MS、ML、MR、NO、FA、PL、PT、RO、RU、SK、ES、FIL、TE、TR
原生支持话轮结束预测,结合声学和语义信息,准确判断用户何时说完。这使低延迟语音智能体应用成为可能,同时在用户被过早打断时尽量减少误截断率。
它能带着恰当情绪,用你或客户品牌自己的声音和当地方言作答
Voxtral Mini TTS 3.0 提供批量和实时两种模式,在 35 种以上语言和 50 多种方言上实现了最先进的表达力和指令遵循能力。Voxtral Speech 3 每 100 万字符收费 13 美元,运行成本低于 OpenAI TTS-1、Deepgram、ElevenLabs Flash 和 Gemini Flash 的同类模型。
该语音模型能更好地隐式理解上下文的语义,从而在多种情绪和语言中生成自然语音。新增和改进的功能包括:基于 30 分钟以上采样音频的声音克隆、自定义提示词指令遵循(IF)、上下文化 TTS 以及词汇库,这些都有助于实现部署中的语音可靠性。显式 IF 的变量包括 emotion、pacing 和 emphasis。
提示词:Let's end the debate here: it's GIF。
默认:
非标准音素提示:dʒ ɪ f
所有听起来自然的语音都依赖情绪,情绪决定其韵律、节奏、语速、重音和过渡。Voxtral TTS 原生解析提示词的文本上下文,以确定情绪和语音风格,因此无需额外指令或语音提示,模型本身就擅长生成自然语音。
Voice Code Bench:性价比
Voice Code Bench 由 BeSimple AI 制作,聚焦企业客服中与数字和独特姓名相关的失败场景。
- 其他 TTS
- Mistral
越靠上、越靠左越好。
Voice Code Bench(BeSimple AI):300 条英文提示,每个系统 2 种声音(女声和男声);评审模型 gemini-3.8-flash;价格来自厂商定价页;生成于 2026-10-20。
发音控制:性价比
目标词按预期音素发音的音频片段占比
- Mistral
- 其他 TTS
内部评测。越靠上、越靠左越好。没有文档化发音控制的系统列在数据中,但未绘制在图上。
300 个英文句子,每个句子包含一个罕见或虚构词(150 个简单,150 个困难),每个系统 2 种声音;评审模型 gemini-3.8-flash 听带有目标词预期 IPA 的音频;价格来自厂商定价页;生成于 2026-10-20。
多语言:性价比
11 种语言的平均评审得分,每种语言和系统各 1 个母语声音
- 其他 TTS
- Mistral
内部评测。越靠上、越靠左越好。覆盖语言少于 11 种的系统列在数据中,但未绘制在图上。
发布时选取 377 条提示,11 种语言,每种语言平均评审得分的未加权均值,1 到 5 分制;评审模型 gemini-3.8-flash;价格来自厂商定价页;生成于 2026-10-20。
富有表现力的英语:性价比
one_eval 上的平均评审得分,发布时选取 237 条提示
- 其他 TTS
- Mistral
内部评测。越靠上、越靠左越好。
富有表现力的英语(one_eval):发布时选取 237 条提示,每个系统 2 种声音(Voxtral TTS:Sarah 和 James),1 到 5 分制;评审模型 gemini-3.8-flash;价格来自厂商定价页;生成于 2026-10-20。
展示 Voxtral 在表现力、数字和独特姓名上的提升
提示词:Thank you for calling Mistral! I understand you're having difficulty logging into AI Studio. Can I confirm your email address? I have here elena.vance82@yahoo.com, is that correct?
Voxtral 1
Voxtral 3
语音在 35 种语言和 50 多种方言中具备本地化听感
Voxtral TTS 支持超过 35 种语言和地区方言。我们的多语言评测遵循发音、正式与非正式语域、拼写、冗长程度以及区域惯例(时间、日期、温度、地址、货币)上的方言差异。
Voxtral 3 多语言语音库提供 18 种语言的 Voice Presets:阿拉伯语(阿联酋、现代标准)、巴西葡萄牙语、加泰罗尼亚语、中文(普通话)、荷兰语、英语(美式、英式)、法语(法国)、德语、希腊语、印地语、意大利语、韩语、挪威语、俄语、西班牙语(西班牙)和越南语。
语音智能体掌控整个对话
Voxtral 3 引入了一个基于 LiveKit 构建的语音智能体 SDK,将语音输入、推理和语音输出作为一条流式流水线运行。Voxtral Mini Transcribe Realtime 3 负责聆听并检测来电者何时说完;一个通用模型——如 Mistral Small——进行推理并调用工具;Voxtral Speech 3 则以到目前为止的对话语气作答。没有任何阶段需要等待前一阶段,因此每轮对话在一秒内完成,并且当来电者插话时,智能体会停止说话。
在通话过程中,智能体可通过函数调用、网页搜索以及对自有系统的检索,验证来电者身份、查询账单或预约。它通过 SIP 接听和拨打电话,通过 WebRTC 在浏览器和应用中运行,并可连接你已在使用的电话系统、IVR 和联络中心软件。

开始使用
Voxtral 3 现已通过 Mistral API 提供,托管于我们的欧洲、美国和全球端点。
你可以在 Studio 游乐场中试用语音智能体、音频转录、语音生成和声音克隆。
| 模型 | 价格 | | --- | --- | | Voxtral Mini Transcribe 3 (batch) | $0.0035/min | | Voxtral Mini Transcribe Realtime 3 | $0.008/min | | Voxtral Small Transcribe 3 | $0.0040/min | | Voxtral Speech 3(批量和实时,相同 API) | $13/1M chars |
若要在本地或私有云中运行完整技术栈,请联系我们的团队。
评论
多数人对新 Voxtral 语音代理的闭源和无法本地部署感到失望,并批评新版语音比旧版更机械;少数人则肯定前代 Voxtral 的转写与说话人分离能力,认为闭源模型在企业数据可控或呼叫中心场景仍有价值。讨论的分歧还延伸到 Whisper 对比是否公平,以及实时语音代理接入内网可能带来社工攻击风险。
认为闭源让人失望,希望回归本地小模型
- 不少用户看到是闭源模型后立刻失去兴趣,认为这延续了语音模型不适合本地部署的问题;他们希望尽快有能本地运行的小模型,避免语音数据外传(较多人)。
- 需要引用时,只用一句中文意译: > 闭源意味着我立刻就不感兴趣,除非开源,否则不确定自己会不会用(@satvikpendem)
承认闭源模型效果更强,或在企业数据可控场景下仍有价值
- 也有人承认,闭源语音模型的效果往往远超开源模型;虽然自己因不开源而不想用,但对需要控制数据的大型企业来说,即便闭源也可能是目前最好的选择之一(少数人)。
- 需要引用时,只用一句中文意译: > 尽管可惜不是开源,但对想控制数据的大企业来说,这可能是目前最好的选择之一(@ilaksh)
认为新版语音比旧版更机械、不像真人
- 对比官方示例后,不少用户觉得新版明显更假,像通用的 AI 合成音,而旧版 Voxtral 1 更接近真人,有人甚至说讨厌听新版(较多人)。
- 需要引用时,只用一句中文意译: > 旧版听起来像真人,新版却像千篇一律的 AI 语音(@MisterMunchkin)
认为拿 Whisper 对比属于错位比较
- 有用户强烈反对把 Whisper 拉来对比,指出 Whisper 本质是转录模型而非听写模型,是少数能转写监控或背景录音中非刻意语音的模型;它词错率更高但尽量收录所有声音,而其他模型会直接过滤掉背景噪音和人声,因此直接比并不公平(少数人)。
- 需要引用时,只用一句中文意译: > 它更像转录模型而非听写模型,只有它能保留监控或背景录音里的非刻意语音,虽然词错率更高但会尽量收录所有声音(@ComputerGuru)
认可前代 Voxtral 的转写、说话人分离与上下文偏置
- 多名用户表示 Voxtral 系列转写和说话人分离效果不错,适合把播客转成文字;老型号价格便宜,而且在无语音时不会幻觉出文字。另有用户提到语音识别的原生上下文偏置很实用,量足够大时可自托管并自行偏置(较多人)。
- 需要引用时,只用一句中文意译: > Voxtral 系列转写和说话人分离都不错,老型号便宜且在没有语音时不会幻觉出文字(@arjie)
担心语音代理接入业务系统后被话术社工攻击
- 有人担忧这类实时语音代理把监听、推理、工具调用和说话连成一体,并接入公司内网后,可能被用户用语音话术诱导去点击支付授权等危险操作,构成社工风险(少数人)。
- 需要引用时,只用一句中文意译: > 可以想象公司把它接到内网,然后有人打电话念出支付授权链接和总统批准的话术,让代理点发送(@londons_explore)
觉得法语口音是演示里的趣点
- 有用户发现代理读完法语后会带法语口音说话,感到好玩;还有人开玩笑说自己听到口音就想点赞(少数人)。
- 需要引用时,只用一句中文意译: > 听到口音就点赞(@jonenst)
认为在呼叫中心场景会很好用
- 虽然讨厌现有 AI 客服能力差、逻辑错误多,但有人认为这类语音代理若足够胜任,用在呼叫中心可以免掉排队半小时,体验会优于转接人工或傻等(少数人)。
有价值的补充
- 上一代开源权重语音识别模型 Voxtral Mini 4B Realtime 可在 4GB 显存的普通笔记本上离线推理,并超过实时速度;相关作者已推出 Windows 商业软件,正在移植 Linux(@Const-me)。
- 有用户原本想对比 Nvidia Nemotron 3 Diarization 的实时说话人分离能力,并指出该模型比以往尝试更好,但新 Voxtral 不再开源,因此对本地部署没有用处(@Meleagris)。