昇桥 AscendBridge:1.6 万亿参数后训练与 MFU 34.22% 实测

昇桥 AscendBridge 把模型适配周期从数天压到约 1 小时,深圳河套学院联合团队在约 1000 颗昇腾 910C 上完成了 1.6 万亿参数 MoE 模型的全参数后训练,算力利用率做到 34.22%。这两件事指向同一个结论:国产算力的瓶颈已经从能不能跑,转向工程链条能不能交付。

2026 年 11 月 2 日,在广东南沙举行的 2026 大湾区科学论坛人工智能分论坛暨第七届中国(广东)人工智能论坛上,华为发布面向广东的智慧科研方案实践成果。华为科研军团总裁孙鹏飞现场发布,系统讲解智算实验室方案与智慧科研方案,并介绍深圳河套学院、鹏城实验室、广州实验室等机构的进展。

1.6 万亿参数全参数后训练意味着什么

先把这几个词拆开。全参数后训练和局部微调是两个量级的工程。局部微调只动一小部分参数,而全参数后训练要同时调整 1.6 万亿个参数。更棘手的是 MoE 架构,推理时只唤醒少数专家,训练时所有专家要同时学习,海量通信的数据交换量是普通模型的几十倍。

在此之前,国产芯片承载大模型的实践主要停在推理部署和微调层面。全参数训练这一关,长期被认为国产算力扛不住。

指标 数值 说明
模型规模 1.6 万亿总参数 / 49B 激活 DeepSeek-V4-Pro,MoE 稀疏架构
算力底座 约 1000 颗昇腾 910C 国产 AI 算力集群,昇腾超节点形态
算力利用率 MFU 34.22% 较开源基线 11.67% 提升 2.93 倍
训练步数 1500 步以上连续稳定 全程零中断、零报错
关键训练算子效率 提升 14% 四项核心评测指标全面超越原模型
人力与周期 40 余人团队 1 个月跑通 学院披露口径为 42 人团队

34.22% 这个数字需要放回行业语境里看。在万亿级训练领域,30% 左右的利用率已经是相当优秀的工业级水准,顶配海外芯片很多团队也只能做到 40% 上下。这个结果来自三处优化:并行策略上采用专家并行加数据并行,配合计算通信重叠;NPU 与 CPU 之间做了协同调度;再叠加 Kernel 层的针对性优化。MoE 稀疏激活降低单 Token 计算量,但大幅推高专家 All-to-All 通信、统一内存和访存带宽需求,这些恰好对应昇腾超节点、灵衢高速互联和 CANN 软件栈的系统能力。

三大工程突破缺一不可

跑通 1500 步不中断,靠的是三件事同时成立。

显存拼图解决的是放不放得下。1.6 万亿参数塞不进任何单张卡,团队设计了一套分布式承载方案,把参数像拼图一样精确分配到千卡集群的每一张卡上,数据交换时机严格对齐。

负载均衡解决的是忙闲不均。MoE 架构里有的专家忙得够呛,有的在闲逛,团队优化了调度算法动态分配任务,跨卡通信拥堵被压下去,算力利用率就是从这一步涨上来的。

全程不掉线解决的是功亏一篑。训练最怕中途崩溃,团队搭建了完整监控体系并做了全链路容错,1500 多步里没有出现一次中断或报错。

这三条缺任何一条,1.6 万亿参数的实验都跑不到终点。国产算力的评价标准因此需要换一套指标,看单卡跑分已经不能反映真实交付能力。

昇桥 AscendBridge 把适配周期压到 1 小时

训练跑通是上半程,下半程是让模型能被搬上国产算力。深圳河套学院把这段做成了工具。

昇桥 AscendBridge 是学院研发的多 Agent 协同模型自动适配与调优工具,2.0 版本于 2026 年 4 月 30 日联合华为正式开源。它垂直聚焦 PyTorch 框架模型迁移到昇腾 NPU 的推理场景,把模型获取、代码适配、错误自愈、精度对齐、性能调优、业务对比验收六个环节串成自动化流程。目标是复刻一支专业工程师团队的完整工作流,让人不用一直守在某个环节上卡住。

工具设计上有一个思路值得注意:把传统的单人全流程包办改造成标准化装配线,角色解耦、权责隔离、流程约束。每个环节由不同智能体负责,任一环节停滞不会导致全线瘫痪。

能力维度 数据 细节
覆盖规模 321 个主流模型 / 142 个发布方 另有 30 余个真实业务数据集、13 类质量指标
模型结构分布 编码器 56、音频语音 29、Qwen 系列 28、视觉 17 另有 AI4S 场景模型 73 个
覆盖厂商 Alibaba、Meta、Microsoft、Google、IBM、OpenAI 等 均在昇腾 A3 设备完成同口径测评
适配周期 数天压缩到约 1 小时 单模型适配效率较手工方式提升 60 倍
已适配开源模型 超 1000 个 华为官方案例中给出的累计数字
推理优化实测 DUTIR-BioNLP/Taiyi-LLM 提速 37.7% 四个融合算子全量替换后测得

三把工程锁是这套工具真正的差异点,它们解决的是适配工作里最常见的几类痛点。

第一把是 DRY RUN 空跑验证,思路是先证伪再迁移。传统适配要先下载几十 GB 权重,有时下载完才发现架构不兼容,前期投入全部浪费。工具自动生成迷你版随机权重模型,不下载真实权重,只验证代码路径和算子兼容性,占用文件规模从 30 GB 压到 3 MB,验证时间从数小时缩到 3 分钟。

第二把是双栈同源。基于 uv 依赖管理,一行命令切换硬件环境,代码零改动,解决了昇腾与其他平台各维护一份代码、版本容易不一致的问题。

第三把是模型文件覆盖可回滚。所有优化产物集中存进独立的 model_files 目录,小文件直接复制,大权重走符号链接不重复占空间,精度异常时一条命令即可整体回退到原始状态。

精度优先是一道硬门槛

提速容易,精度对齐难。AscendBridge 把精度对齐设成模型适配的基本要求和性能优化的前提,建立了一套分层分类的评估机制。模型输出自动归为 11 类,同输入下要求 NPU 与业界基线输出的 logits 余弦相似度大于 0.99。BERT 类看余弦相似度,大语言模型加 PPL 困惑度,检测模型加 IoU 交并比,ASR 语音识别加 WER 词错误率。

背后沉淀了 6 大类精度不对齐根因,各绑定独立诊断工具链:硬件数值差异、dtype 精度敏感、算子回退 CPU、融合算子语义错位、随机采样差异、权重与评测口径不一致。

工具文档里有个案例把精度优先的原则讲得很透。Qwen3-Embedding 模型启用 npu_fusion_attention 后,embedding 余弦相似度从 0.99 跌到 0.94,根因是 bf16 精度下 attention mask 数值交互放大了误差。处置方式是回退到原生 PyTorch 实现,精度恢复到 0.99。这是一次主动放弃提速的选择。

质量保障机制同样具体。适配阶段报错时智能体自动读日志、定位根因、改代码、重跑,每个模型有独立虚拟环境避免依赖冲突,任何阶段必须通过校验脚本,累计 100 多条校验规则。评测样本量要求不少于 50 个,加速比以整轮挂钟时间为准,不允许用单次延迟反推,报告里出现 cold baseline 或 partial run 这类字样直接判无效。

这套规则看起来繁琐,实际作用是给大模型幻觉对冲。一个智能体报告说提速 3 倍,验证成本远低于把一次误报当成结论的成本。

鹏城云脑与广州实验室的两种落地

华为这次公布的三家机构,代表了国产算力落地的两种不同路径。

鹏城实验室走的是算力底座路线。从 2020 年开始,华为持续协助打造鹏城云脑大科学装置,从云脑 I 到云脑 III,算力规模从 120P 攀升到 16000P,网络、基础软件到应用逐步实现智算平台自主创新。2026 年鹏城云脑拿到 IO500 全球双榜十二连冠,并获国家科学技术进步奖一等奖。目前已引领全国 25 个智算中心建设,支撑超半数国内大模型研发。

广州实验室走的是科研闭环路线,基于 openJiuwen、ScienceDiscovery 平台、图链知识图谱引擎和 AI4S 智能引擎打造纳米抗体科研智能体,打通文献挖掘、方案生成、自动化干湿实验、反馈迭代全流程,形成自主闭环。生物学家无需编程即可调用高端设备,部分抗体发现周期从半年压缩到周级。

两实验室还联合利德健康与华为推进 AI4S MHS 模型硬件标准建设,建立面向智慧科研与自动化实验室的异构设备统一调度规范,解决智能体发现、读取和调用物理设备的接口问题,让科研仪器成为 AI 可调用的实验能力。

机构 路径 核心指标 性质
深圳河套学院 算子与模型适配 贡献 20 多个高性能算子,适配周期数天到约 1 小时,超 1000 个开源模型 把国产算力变得可用
深圳河套学院联合团队 万亿参数全参数后训练 1.6 万亿参数,MFU 34.22%,1500 步零中断 把国产算力变得能训
鹏城实验室 智算基础设施 120P 到 16000P,IO500 十二连冠,国家科技进步奖一等奖 把国产算力铺成底座
广州实验室 科研智能体闭环 AI4S L4 智能实验平台,抗体发现周期半年到周级 把国产算力变成生产力

华为提出的两层方案正好对应这个分层。智算实验室方案依托全系列自主创新的计算、存储、网络,构建科研计算、科研数据引擎等模块,解决智能底座从哪里来。智慧科研方案依托智能体开发平台,构建文献挖掘 Insighter、实验设计 Designer、实验执行 Executor、数据分析与反馈 Analyst 四类智能体,覆盖完整科研闭环,解决如何更聪明地做科研。

这套工程链条的通用价值

昇桥这套方法论并不局限于昇腾。权责隔离、状态机门禁、自愈机制这套设计,对任何需要把开源模型批量迁到异构硬件的团队都成立。开源仓库在 GitCode 上分为主仓库和适配模型仓库两处,321 个模型的适配脚本已在昇腾 A3 设备完成完整测评,并与业界竞品做了同口径精度和性能对比。

对比同类的迁移成本数据,能看出工程化改造的量级。早期依赖人工适配的方案,往往要把整个模型体系重写一遍,而接入统一算子层之后问题被压缩成接口层面的工程。DeepSeek 开源昇腾组件 那篇记录过 375GB/s 互联与 5102 tokens/s 推理的进展,是这条链条上更底层的另一块拼图。

选型方法也在同步成熟。昇腾超节点的大规模 NPU 组织方式与开源模型实测吞吐的横向对比,已经成为实验室选型的常规工具,相关的 天数智芯天垓 300 实机跑通 与 鹏城云脑Ⅲ先头 10000P 上线 都提供了可复算的参照。

应用侧的例子已经不少。蚂蚁数科、分子之心 MMDesign 深度 这类 AI4S 工具的工作,和 千问开源统一科学大模型 LOGOS 一起,构成科学智能这条线上从底座到工具的完整链条。

需要留意的边界

几个数字需要冷静看。MFU 34.22% 是万亿参数 MoE 场景下的成绩,不代表所有模型形态都能复现,稠密模型和长上下文场景的效率表现需要单独评估。

昇桥目前的验证覆盖集中在 PyTorch 到昇腾 NPU 的推理适配路径,训练侧的自动化能力仍在早期。工具自己列出的开放问题里,错误自愈、算子自动生成这些更深的自动化方向仍在演进。

1000 颗 910C 的集群规模、40 余人一个月的投入,这个门槛对多数高校团队仍然不低。昇桥的价值在于把重复劳动交给工具,但集群采购、团队培养和真实业务数据的积累,仍然要靠机构自己补齐。华为披露的模型适配周期从数天到 1 小时,是工具链成熟后的效率数字,每个团队立刻能达到的起点要低得多。

常见问题

昇桥 AscendBridge 和华为官方工具有什么不同

昇桥是深圳河套学院研发、联合华为开源的模型适配与调优工具,研发主体是学院,代码和 321 个模型的适配脚本都在 GitCode 上开源。它的定位是自动化流水线,核心是六个智能体和三把工程锁,把人工适配变成可复用的流程。相比华为自带的开发套件,昇桥解决的是从 Hugging Face 往昇腾 NPU 迁移这一段最耗人力的工作。

MFU 34.22% 算高还是算低

在万亿参数 MoE 全参数后训练这个场景里属于优秀水平。30% 以上已是工业级水准,顶配海外芯片很多团队也只到 40% 上下。它的参照系是同场景的开源基线 11.67%,相对提升 2.93 倍。放到具体业务上要看模型形态、并行策略和通信拓扑,稠密模型或超长上下文场景的效率会不同。

1.6 万亿参数全参数后训练和微调差在哪

全参数后训练要同时更新 1.6 万亿个参数,微调只动一小部分。MoE 架构下训练时所有专家同时学习,海量通信的数据交换量是普通模型的几十倍,对通信拓扑和调度算法要求极高。这正是国产算力长期停留在推理部署和微调层面的原因,全参数训练这一关跨过去意义重大。

小结

昇桥 AscendBridge 与 1.6 万亿参数后训练这两件事,放在一起看才能看出国产算力进展的真实形态。一边是单点指标的追赶,一边是工程交付链条的成型。前者容易被跑分掩盖,后者才决定一个实验室能不能在一个月内把模型真正用起来。

34.22% 的 MFU 值得记下来,1 小时的适配周期同样值得记下来。后者甚至更重要,因为它把一次性突破变成了可重复的日常流程。工具的六个智能体、三把工程锁、100 多条校验规则,加上开源的 321 个模型适配脚本,共同构成了这条可迁移的经验路径。

相关阅读