Block 发布纯语音模型 Dessa:单台 GB200 训练,M4 Max 本地跑

一句话结论:Block 在 10 月 23 日发布的纯语音模型 Dessa 用一台 NVIDIA GB200 NVL72 完成训练,推理阶段可直接在 M4 Max 及以上的 MacBook Pro 本地跑完并快于实时,是目前少数明确不用任何文本语料、不用任何预训练模型的端到端语音对话模型,但它至今没有公布参数量、数据规模、延迟数值和第三方基准分数。

10 月 23 日,Jack Dorsey 旗下的支付公司 Block 内部一支很小的 AI 研究实验室对外发布了一款语音模型,名字叫 Dessa。它不是助手,不接入 App,也不是 SDK,而是一份研究预览:官网上挂着候补名单,第一批访问权限只发给一小群 AI 安全研究者,公开链接标注即将上线。

值得关注的地方有三个。第一,它宣称训练素材只有人类说话的声音,一个文字样本都没有,也不使用任何预训练模型;第二,它是全双工的,一边听一边说,能在别人没说完时插话,也能像人一样用”对””嗯””哦”这类短促回应表示在听;第三,它能在本地 MacBook 上运行,速度快于真实时间。把这三条放在一起,等于说有人证明了纯语音路线在极小算力下是可行的。这与主流语音 AI 的扩张方向正好相反,后者普遍在往更大的模型、更长的上下文和更高的云端算力上堆。

从零开始的纯语音训练究竟意味着什么

今天绝大多数语音 AI 走的是级联路线:录音先经语音识别转成文本,文本交给大语言模型思考,模型输出再由语音合成器读出来。这条路成熟、便宜、可控,但每一步都在丢信息。语调、停顿、呼吸、讽刺、笑点落下的时机,全都被压扁进一串文字里。Block 对此的表述很不客气:当前最强的 AI 听不出你此刻的情绪,这件事既让体验变差,也可能带来危险。

Dessa 跳过了整条级联。音频进,音频出,中间没有转写步骤。Block 给出的类比是婴儿学说话,过程中从未见过写下来的文字,团队想看看模型能不能也这样学会,结果是能,但非常难。

难在数据本身。文本有个便利,同一句话谁打都一样;语音没有这个性质,同样一句话说两遍,两次的波形都不一样。压力落在哪个词上会改变整句含义,一个口语单词占用的字节数是同样文字写法的数千倍。Block 称 Dessa 学会语言用到的词数比大语言模型少几百倍,同时还要额外学会口音、停顿、呼吸、幽默、抑扬转折和插话时机。用一句官方页面上给的例子说明:把”我不是说她偷了我的 CUDA 代码”这句话的重音依次落在不同词上,每种读法都是不同意思。

值得单独指出的是训练规模的量级。整个训练只用了一台 NVIDIA GB200 NVL72,也就是单机架规模的英伟达数据中心系统。对照今天动辄千卡起步的前沿模型训练,这个数字小得不像话。官方没有公布参数量、语料时长或模型文件大小,所以”小”只能从算力侧推断,无法给出确切倍数。

全双工与情绪,把对话节奏交还给模型

全双工这个词在语音产品里常被滥用,很多号称全双工的模型仍然是轮流说话,等你说完再开口。Dessa 的差别在于它从真实对话录音里学会了什么时候该插话、什么时候该只给一个”对”或”收到”这类附和。这两件事看起来很小,实际上决定了对话像不像人对人说话。

官网放出的演示录音有几处值得注意。它在笑话落地的那一刻直接笑出来,而不是等对方说完再补一个笑;被要求大声一点就真的会提高音量;对方想不起一部电影的名字时,它能顺着把那句补完;听到一个意外的周年纪念消息,它会先轻轻”哦 my god”一声,再给出带哭腔的感谢。这些录音被官方描述为现场录制、无人引导,字幕是后期加的。

情绪维度上,官方列出它原生能听也能说的内容包括讽刺、笑声、沮丧的叹气,以及悲伤时声音的破裂。对比 蚂蚁百灵开源的 Ming-3.0 语音系列 在合成侧强调的导演模式可控情绪,路线恰好相反:百灵把情绪做成一个可编程的旋钮,Dessa 试图让情绪成为说话本身自带的行为。

演示也暴露了粗糙的一面。多家媒体注意到它有时把说话人误认成某个叫 Ronaldo 的人,聊到克里斯托弗·诺兰的电影会突然拐到布莱恩·辛格的超人系列,有人说自己去巴黎做了一次说走就走的旅行,它回应的语气像带着眼泪的感激。Block 选择把这些错误一起放出来,某种程度上说明它自己也知道这段录音未经剪辑。

与主流语音模型摆在一起看

如果把 Dessa 放进当前的语音模型竞争格局,它的定位就清楚了。同期最直接的对手是 ElevenLabs 在 10 月 20 日发布的 Eleven Realtime,同样走端到端语音到语音路线,覆盖 90 多种语言,可调用 17000 条以上的音色库,并且给出了完整的第三方基准分数。Grok Voice 3.0 在 Big Bench Audio 上的 98.5% 也高于 Gemini 3.8 Live Extended Thinking 的 97.7%。

模型 厂商 架构 公开跑分 首音延迟 部署形态
Dessa Block 纯语音端到端,无文本无预训练 未公布 仅称快于实时,无具体数值 本地 M4 Max 及以上 MacBook Pro
Eleven Realtime v1 Max ElevenLabs 端到端 speech-to-speech Big Bench Audio 98.8%,Full-Duplex-Bench 94.1% 570 毫秒 云端 API 与 ElevenAgents
Eleven Realtime v1 Mini ElevenLabs 端到端 speech-to-speech Big Bench Audio 75.9%,Full-Duplex-Bench 95.8% 620 毫秒 云端 API 与 ElevenAgents
Grok Voice 3.0 SpaceXAI 实时语音对话 Big Bench Audio 98.5% 低于 1 秒 云端服务
GPT-Live-1 OpenAI 语音对话模型 未公布 未公布 云端服务
Voxtral 3 Mistral AI 端到端联合优化的语音智能体栈 WER 降低 40% 未公布 云端服务

这张表的落差本身就是结论。竞品给出的是可复现的分数和毫秒级延迟,Dessa 给出的是一组未经第三方验证的官方录音。在跑分维度上它目前无法参与排名,唯一确定的差异化在训练语料和运行位置两处。

不过它也不是没有对照物。Block 官网收录了一段 Dessa 与 OpenAI 的 GPT-Live-1 语音模型 直接对话的录音,两边声音都由 AI 生成,官方称 GPT-Live-1 的开发者与 Block 无关联,也未审阅或背书 Dessa。多家媒体的听感判断是 Dessa 更自然一些,但这类主观评价在没有基准支撑时参考价值有限。

把情绪识别当成安全问题

Block 给出的三个理由依次是好奇心、改善人与 AI 之间的理解,以及安全。前两个理由常见,第三个才是这个项目真正想推的命题。

官方页面上的原话场景是:一个人正处于剧痛中说话,而语音 AI 毫无察觉地继续往下讲。随着 AI 获得越来越强的行动力和独立性,它对人类声音里情绪信号近乎失聪的状态并没有同步改善。纯语音路线在他们的框架里不是纯粹的技术洁癖,而是一个安全补丁:如果系统连”这个人是不是很难受”都听不出来,那么再强的智能在真实场景里也可能用错方式回应。

这条逻辑站得住。级联路线中语音识别输出的通常是文字加几个置信度值,情绪维度基本被抹平;端到端模型至少在原理上保留了原始波形里的信息。但要注意这只是原理上的推论。Block 没有提供任何关于情绪识别准确率的数据,也没有说明模型在识别到痛苦信号后会做什么。识别出来不等于做出正确反应,这一步目前完全空白。

现在能拿到什么,还拿不到什么

对想用上这类模型的人,当前的可得性清单如下。

项目 状态 说明
公开权重 没有 未开放下载
公开 API 没有 官网标注链接即将上线
参数量 未公布 官方未给出
训练数据规模 未公布 仅说明只用人类对话录音
延迟数值 未公布 只说推理快于实时
基准分数 未公布 无第三方评测
训练算力 已公布 一台 NVIDIA GB200 NVL72
本地运行门槛 已公布 MacBook Pro M4 Max 或更高
早期访问 开放申请 限 AI 安全研究者,需机构邮箱
公众候补名单 开放 面向所有人

团队规模同样小得反常。Block 列出的研究员是六人:Louay Hazami、Hashiam Kadhim、Qi (Alex) Liu、Rayhane Mama、Aydin Polat 和 Marc Tyndel,另有三名实习生和两名前实习生。这支实验室的前身是 2020 年被 Block(当时还叫 Square)收购的多伦多深度学习创业公司 Dessa,团队自 2012 年起做深度学习模型,生成式语音模型做了八年以上,直接向 Block 联合创始人兼董事长 Jack Dorsey 汇报。负责人 Ragavan Thurairatnam 在社交平台上把这次发布称作语音领域的 GPT-3 时刻。

官方页面同时列出了三个尚未回答的研究问题:纯语音模型学习语言和事实的效率与文本训练模型相比如何,它们学习新语言的效率如何,以及能执行哪些类型的上下文学习。这三个问题恰好对应这套路线最关键的不确定性。

对照 IBM 开源的 Granite Speech 5.0 给出 5.68% 的词错率、Gradium Phonon 用 3100 万参数在端侧跑到 1.70% 词错率 这类把数字摆在明面上的做法,Dessa 目前只能用演示录音说话。这两种路线的差别不只是工程成熟度,也是两种研究价值观的差别,一个把可复现的量化结果当作品交付标准,一个把现象本身当发现来发布。

小结

Dessa 值得记住,不是因为它的分数高,而是因为它证明了一件事:一个足够小的团队,用一台机器的算力,不碰文本,不借用任何预训练模型,也能让模型学会像人一样边听边说、插话、附和、并把情绪带进声音里。它同时把语音模型的一个被忽视的问题摆到了台面上,情绪不是装饰,识别不到痛苦信号是一种真实的安全缺陷。

它同样留下了三个空白:不发布权重意味着社区无法验证,不公布参数量和语料规模意味着”小”这个核心卖点无法量化,不给跑分意味着它无法进入现有的模型对比体系。这三个空白加上研究预览的形态,让它更接近一篇论文的预印本而不是一个产品。后续真正值得盯的指标有三个:首批外部研究者拿到模型后是否复现出官方的自然度,Block 是否补上参数量与延迟数据,以及纯语音模型在效率上是否真的优于文本路线。

在本地运行这件事上,Recursive Flint 用 40B 总参数、2.5B 激活在本地跑出 131 tok/s 给出了一个参照坐标:端侧推理已经能把大模型压进个人设备,Dessa 证明的是同一件事在语音维度上也成立,而且不需要先学会写字。

常见问题

Dessa 是什么?它是 Block 内部 AI 研究实验室在 10 月 23 日发布的一款端到端语音对话模型,特点是训练阶段完全没有使用文本语料和任何预训练模型,音频进音频出,中间不做转写。它目前是研究预览形态,不是可直接使用的产品。

Dessa 和 GPT-Live-1、Eleven Realtime 这类语音模型有什么不同?差异集中在训练语料和运行位置两处。GPT-Live-1 与 Eleven Realtime 都跑在云端服务上,而 Dessa 可以直接在 M4 Max 及以上的 MacBook Pro 本地运行且快于实时。另外 Eleven Realtime 已经给出 Big Bench Audio 98.8%、首音 570 毫秒这样的量化结果,Dessa 这边目前没有任何公开跑分。

现在能用上 Dessa 吗?暂时不能直接用。官方没有开放权重和公开 API,官网标注链接即将上线。第一批访问权限面向一小群 AI 安全研究者开放申请,需要机构邮箱,公众则可以进候补名单。

Dessa 是怎么做到只用一台机器训练的?官方披露的训练算力是一台 NVIDIA GB200 NVL72,也就是单机架规模的英伟达数据中心系统。参数量、训练数据规模和延迟数值都没有公布,所以目前无法判断它与大型模型之间的具体倍数关系。