腾讯混元开源的 Hy-SimulMT 把实时同声传译的流式延迟压到 3.3 秒，比受测的持证同传译员更快，同时在 RealSI 长音频评测集上取得约 86 分。这一模型已经开放 Apache 2.0 权重，开发者可以直接部署，也可以通过开源社区里已经铺开的商用 API 对照其实际表现。
同声传译的竞争长期卡在延迟与质量的取舍上。译员要等更多上下文才能给出准确译文，而听众的等待感又随时间线性上升。腾讯混元给出的答案是一套双向中英同传模型：说话人音频实时送入，模型边听边译，同步吐出译文与语音，并支持实时音色克隆以保留原说话人的声音特征。
同传的两个指标，StreamLAAL 与 GEMBA 分管速度和质量
评估同传不能只看最终译文准不准，还要看译文比原话慢多少秒。StreamLAAL 衡量的是这个落后量，数值越低越好，它并不等同于首次语音输出的时间。GEMBA 则是翻译质量的综合分，数值越高越好。
Hy-SimulMT 在 RealSI 长音频评测集上取得约 3.1 秒的 StreamLAAL，得分约 86 分，是参评系统中延迟最低、质量为开源模型最佳的组合。其 GEMBA 分数超过了参与对比的开源模型，也超过了五家商用 API 中的四家。
四个短音频公开基准：总分第一，但强项不在每一列
官方团队在 FLEURS、CoVoST2、ACL6060 和 RealSI-Sentence 四个短音频集上做了横向对比。对比对象覆盖了国内外主流的实时翻译系统，包括 Qwen3.8-LiveTranslate、Gemini3.5-LiveTranslate、Confucius4 的 R2T2 转 T3PO、Seed-LiveInterpret2.0、SimulS2ST-Omni、GPT-Realtime-Translate、讯飞的 Simul-Interpretation 以及 SeamlessStreaming。
| 系统 | FLEURS | CoVoST2 | ACL6060 | RealSI-Sentence |
|---|---|---|---|---|
| Hy-SimulMT | 90.3 | 75.5 | 81.2 | 84.7 |
| Qwen3.8-LiveTranslate | 88.4 | 82.1 | 80.5 | 84.4 |
| Gemini3.5-LiveTranslate | 92.4 | 74.4 | 82.6 | 82.2 |
| Confucius4 R2T2 转 T3PO | 89.4 | 76.8 | 76.1 | 77.7 |
| Seed-LiveInterpret2.0 | 85.8 | 67.7 | 74.8 | 80.0 |
| SimulS2ST-Omni | 78.6 | 66.6 | 73.1 | 77.4 |
| GPT-Realtime-Translate | 77.7 | 50.8 | 76.4 | 76.7 |
| 讯飞 Simul-Interpretation | 73.4 | 57.0 | 57.5 | 70.9 |
| SeamlessStreaming | 72.8 | 60.9 | 49.8 | 56.9 |
读这张表要看出分层。Hy-SimulMT 在 FLEURS、ACL6060、RealSI-Sentence 三项上高于其余开源模型，RealSI-Sentence 的 84.7 分是全表最高；但在 CoVoST2 一列它只有 75.5 分，落后于 Qwen3.8-LiveTranslate 的 82.1 分。在 FLEURS 上排第一的仍是 Gemini3.5-LiveTranslate，92.4 分比 Hy-SimulMT 高出 2.1 分。
这组数字给出的结论很具体：Hy-SimulMT 的强项是短句实时性和延迟控制，弱项是特定语料上的翻译精度上限。它没有在所有列上横扫。
3.3 秒对 4.5 秒：与六位持证译员的对照实验
这次对照实验的设计比基准集更能说明问题。团队收集了 2026 年 9 月之后新上线的 18 段中英音频，每段约 6 分钟，覆盖软件与人工智能、医学、制造与能源、自然科学、农业与食品、商业管理、法律、教育文旅、体育与日常生活十个领域。随后邀请 6 位有多年实战经验的同传译员参与翻译，其中 3 位持有 CATTI 一级证书，3 位持有 CATTI 二级证书，横向对比时同一证书等级内取三人中的最高分。
| 对照对象 | StreamLAAL 延迟 |
|---|---|
| Hy-SimulMT | 3.3 秒 |
| 持证译员 CATTI 一级 | 4.5 秒 |
| 持证译员 CATTI 二级 | 4.7 秒 |
结论是 Hy-SimulMT 的翻译质量与专家同传译员持平，而响应速度更快。官方明确说明了这组结果的适用范围：仅适用于本次的样本、参与的译员和评测设置，不构成对语音质量、声音相似度等维度的全面评估。
在实现机制上，模型采取先开口、后纠错的策略。广东外语外贸大学翻译学院副院长王卫伟的评价点出了这个特征：为了控制延迟，系统先说出译稿再做修正，这些修正听起来与译员的自我修正相近。他把 AI 同传定位为从辅助理解走向低风险场景下可用沟通的阶段。
304 亿参数只激活 30 亿，MoE 结构压住推理开销
模型采用混合专家结构。总参数 304 亿，每处理一个字只激活约 30 亿。完整精度文件约 60.8 GB，另有 FP8 压缩版和 GGUF 量化版，开源协议为 Apache 2.0，商用免费。
| 规格项 | 数值 |
|---|---|
| 总参数量 | 304 亿 |
| 单字激活参数 | 约 30 亿 |
| 层数 | 48 层 |
| 路由专家数 | 128 个，另有 1 个共享专家 |
| 每次调度专家数 | 8 个 |
| 完整精度权重体积 | 约 60.8 GB |
| 开放协议 | Apache 2.0 |
公开的权重有六个版本：Hy-SimulMT-30B-A3B 是只输出译文的版本，另有 FP8 量化版与 GGUF 版；Hy-SimulMT-30B-A3B-Interleave 同时输出原文与译文，同样提供 FP8 与 GGUF 变体。权重发布在 Hugging Face、ModelScope 与 GitHub 三个平台。
这里有一个必须讲清的边界。模型本身只完成声音进、文字出的半程，要让它用原说话人的嗓音把译文念出来，还需要另接一套语音合成服务。实时音色克隆属于模型能力，但原声合成不在模型内。这与站内此前梳理的端侧语音模型路线形成对比，像 蚂蚁百灵 Ming-3.0 语音系列 那样把合成、理解与识别拆成多款模型分别覆盖，是当前语音能力的常见工程做法。
三条部署路径，从单卡到 llama.cpp 量化
官方仓库同时给出推理服务 SimulInfer 与训练工具 SimulTrain。开发者按不同硬件条件有三条路可走。
第一条是 SimulInfer 加 vLLM。要求 Python 3.12 以上、vLLM 大于等于 0.31 且带 HYV3ForCausalLM 支持，模型服务默认监听 8800 端口，网页与 API 服务默认 8080 端口，支持音频上传、实时 WebSocket 以及可选的带输入音色克隆的 TTS。远程麦克风访问需要 HTTPS。
第二条是 SGLang-Omni。这条路径只覆盖 BF16 的只译版本，BF16 权重占用约 57 GiB，单张 H200 足够跑起来。流式接口每 1.6 秒刷新一次翻译假设，单次请求的音频上限 30 秒，超过会被拒绝而非截断。它在 H200 上批大小为 1 的条件下，实测延迟比 Transformers 实现最多快 6.5 倍。
第三条是 llama.cpp 量化部署，官方已提交 PR #31198 支持 GGUF 模型推理，当前可通过 llama-mtmd-cli 走通，服务端支持在后续跟进中。该 PR 尚未合入 llama.cpp 主仓库，选用前要先确认自己的版本是否已包含所需的 server 支持。
腾讯混元这些模型已经在调用量上挤进前列。站内 OpenRouter 全球模型榜前五全是中国模型 一文记录了国产模型在调用量上的整体上量情况，混元是其中的代表。这也让同传这类能力有了真实的落地验证环境，腾讯混元 WeVisOne-VL 开源 也是同系列的开放模型案例。
可以替代译员做什么，不能替代什么
官方给出的落地路径相当克制：先在低风险场景里把 AI 同传变得有用，同时依靠人机协同持续改进。需要严格担责、需要专家复核或高风险决策的场景，专业译员依然不可替代。
消费端的入口是腾讯 Hy 翻译 App，首发免费体验。硬件端则已有把通话翻译做成标配的产品，例如 Rokid 三款 AI 穿戴新品 提到 89 语种通话翻译。云端同传与端侧翻译眼镜在场景上互补，前者处理长时会议与演讲，后者处理随身对话。
小结
Hy-SimulMT 的意义在于把同传模型从少数商业 API 的黑箱拉到开放权重领域，并且用一组与持证译员的对照给出了具体数字。3.3 秒对 4.5 秒的差距、RealSI 上约 86 分的质量、48 层 128 专家的稀疏结构，这些都可以被独立复核。对开发者来说，Apache 2.0 加三种部署形态加 FP8 与 GGUF 量化，意味着中小团队第一次有了把实时同传放进自己产品里的可行路径。对行业来说，翻译质量见长的实时翻译模型集中在少数几家手中，而音色克隆这类过去属于闭源产品的能力，正在随权重一起变成可下载的组件。
常见问题
Hy-SimulMT 的实时同传延迟具体是多少，与人类译员相比如何
在 RealSI 长音频评测集上，Hy-SimulMT 的 StreamLAAL 约 3.1 秒，官方对照实验中给出的数值是 3.3 秒。同一批实验中，CATTI 一级译员的延迟为 4.5 秒，CATTI 二级译员为 4.7 秒，模型在延迟上更快，翻译质量与专家持平。该结论仅适用于本次样本与评测设置。
Hy-SimulMT 能直接输出带原声人声的译文吗
不能。模型输出的是译文文本，要用原说话人的嗓音念出来需要另接一套语音合成服务。实时音色克隆是模型提供的能力，但原声合成不在模型内，部署时需要自行配置 TTS 服务。
部署 Hy-SimulMT 需要什么硬件
SimulInfer 配 vLLM 路线需要能装下完整精度权重或 FP8 版本的 NVIDIA GPU；SGLang-Omni 路线中 BF16 权重约 57 GiB，单张 H200 即可运行。若要用 GGUF 量化版本走 llama.cpp，则需要等待 PR #31198 合入或自行适配。
相关阅读
- 蚂蚁百灵开源 Ming-3.0 语音系列：五款模型覆盖合成、理解与识别
- OpenRouter 全球模型榜前五全是中国模型：周调用 188 万亿 Token
- 腾讯 WeVisOne-VL 开源：4B 模型统一七类视觉任务
- Rokid 三款 AI 穿戴新品：89 语种通话翻译
延伸阅读
- 英伟达开源 Nemotron 3 Embed 文本嵌入模型：8B 版 RTEB 78.5% 登顶，1B 版保留 95% 检索精度1 月前
- 华为云码道上线鸿蒙专属 AI 编码智能体，三大能力一次齐发1 月前
- Qwen4 投入训练：10万亿参数路线图，零干预迭代33轮1 月前
- 微信 AI 开源 WeKnora 0.8.0：知识库从”能查”到”能执行”，技能沙箱支持 Docker/E2B/Cube1 月前
继续读
同一批更新里这几篇值得一看：
- Hy-Nomas 拆解：8B 世界模型用 20.53 GiB 显存跑 100 秒2026-10-27
- IBM Granite Speech 5.0 开源：英文词错率 5.68%，开源第二2026-10-23
- OpenClaw v2026.10.6 更新发布2026-10-23