华为昇腾 0 Day 支持 Kimi K3.1 Pro:2.8 万亿参数

据 11 月 4 日消息,华为宣布昇腾完成 Kimi K3.1 Pro 的 0 Day 推理部署支持,基于 vLLM Ascend 与 SGLang 同步实现适配,可在 Atlas 800 A3、Atlas 900 A3 SuperPod 以及昇腾 950 超节点上运行。这个模型总参 2.8 万亿,原生支持视觉理解与百万 Token 上下文,混合专家架构里同时用到 KDA 线性注意力与 DSA 稀疏注意力层。

0 Day 意味着什么

在国产算力生态里,0 Day 支持通常指模型权重与框架侧完成适配后第一天就能跑起来,省掉了长周期的编译调优等待。对 2.8 万亿参数规模的 MoE 模型,这一层工程量的差别很直接:稀疏激活与跨卡通信都要重算,官方称在算子、KV 缓存与跨卡通信协同上做了联合优化。对国产算力链条来说,这类适配的价值在于把自部署的等待时间压到最低,若在一个月前想在昇腾上跑一个同规模的 MoE 模型,光是算子实现与精度对齐就要耗掉大量工程时间,如今框架侧直接可用,团队可以把精力放回业务本身。

生态一侧的呼应

昇腾近期在原生大模型推理上动作密集,本站此前的深度稿记录了魔芯 MoWorld 2.0 走昇腾原生的路线,推理成本降到 GPU 的三成:魔芯 MoWorld 2.0:昇腾原生 4D 世界模型推理成本降至 GPU 三成。对想在国产硬件上自部署的团队来说,权重开放与框架适配这两步同时到位,才是真正能落地的前置条件。