IT之家 10 月 15 日消息,阶跃星辰今日宣布正式开放 Step 5 Preview 模型权重,包含 BF16 与 FP8 两个版本,在 AI 编程、软件工程、专业知识工作、金融等任务上达到前沿水平。
昇腾,壁仞、沐曦 0Day 支持
模型权重已上线 Hugging Face 和 ModelScope,开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,也可使用 Transformers 进行离线推理。
随后,华为、壁仞科技、沐曦股份、摩尔线程官方发文,宣布提供 0Day 支持。
据华为介绍,此次 Step 5 Preview 一经开源发布,昇腾就基于 vLLM 推理引擎实现了 0Day 支持,并围绕模型架构与硬件特性实现了高效推理优化。
10 月 15 日,首套 1024 卡 Atlas 950 SuperPoD 液冷超节点随着 Step 5 Preview 的开源同步上线点亮,性能持平海外先进算力。
据介绍,昇腾 Atlas 950 SuperPoD 液冷超节点基于灵衢高速互联架构与超节点技术体系打造,是业界规模最大的 1024 卡超节点产品,可提供 1 EFLOPS FP8、2 EFLOPS FP4 精度澎湃算力,高效适配万亿参数大模型的推理场景需求。
1024 卡 Atlas 950 液冷超节点同步上线
IT之家从华为获悉,昇腾 950 超节点具备 256TB 全局统一内存编址能力、NPU 卡间达 TB 级互联带宽、时延低至 3μs,彻底突破传统集群内计算与存储资源的通信瓶颈;通过系统性架构创新与全域资源统一调度,实现了整套集群算力的高效释放与稳定运行。
华为表示,昇腾基于 vLLM Ascend 推理引擎,围绕 Step 5 Preview 模型架构与 950 超节点硬件特性,协同构建高效的推理优化方案。从 Ascend C 与 Triton 融合算子,到多流并行、计算空泡优化,再到 MTP 投机解码、NPU Graph 图执行,持续打通模型、算子和推理框架之间的优化链路,为 Step 5 Preview 部署提供高效算力支撑。
沐曦股份表示,曦云 C 系列 GPU 已率先完成 Day 0 深度适配,以全栈自研算力底座,为国产 Agent 生态再添核心支撑,持续领跑国产大模型极速适配赛道。
延伸阅读
- 阶跃STEPX Neo定档10月13日:首款L3认证智能体手机,一句话把事办完1 周前
- 阶跃 Step 5 Preview 开放权重:6000 亿 MoE、100 万 token2 天前
- DeepSeek 开源昇腾基础组件:375GB/s 互联、5102 tokens/s2 周前
- 阶跃Step 5 Preview开放权重:6000亿稀疏MoE、100万上下文2 天前
继续读
同一批更新里这几篇值得一看:
