10 月 15 日，阶跃星辰正式释放 Step 5 Preview 模型权重，开放内容包括 BF16 与 FP8 两种精度规格、技术博客与配套开源开发工具，供全球开发者研究与评估使用。这是继今年 9 月书生-S2 多模态大模型发布后，阶跃在开源大模型领域的又一次重要动作。
6000 亿参数稀疏 MoE 架构
Step 5 Preview 采用稀疏 MoE（专家混合）架构，总参数量达 6000 亿，是目前国内开源大模型中参数量较大的稀疏架构之一。稀疏 MoE 通过动态激活专家网络实现计算效率提升，在保持大参数量的同时显著控制推理成本。相比稠密模型，稀疏架构在多任务场景下更具灵活性，已被 GPT-4、Mixtral 等多款头部模型采用。
100 万 token 超长上下文
该模型原生支持 100 万 token 的上下文窗口，可一次处理长篇学术论文、完整代码仓库或多轮长对话任务，相比业界常见的 32K 或 128K 上下文长度提升数倍。超长上下文对于代码补全、法律文档分析、医学影像报告等场景尤为关键。书生-S2 积累的多模态技术也被部分复用于此。
开发者工具同步上线
阶跃同步释出配套开源工具，覆盖推理加速、微调流程与基准测试。开发者可在 GitHub 获取示例代码与测试脚本，快速验证模型在各类任务上的能力表现。模型权重现已开放下载，商业授权细节尚待官方进一步说明。
延伸阅读
- 全球大模型周调用量达 129 万亿 Token：DeepSeek V4.1-Flash 15.8 万亿登顶，环比涨 219%4 周前
- 科大讯飞开源星火 X2.5 端侧模型：4B 参数，原生 100 万 Token 上下文，能本地干活了1 月前
- Kimi-Audio 开源音频大模型解析：LibriSpeech 词错误率 1.28%，三段式架构统一语音任务4 周前
- 阶跃Step5Preview接入WorkBuddy：限时免费两周，6000亿稀疏MoE4 天前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。
继续读
同一批更新里这几篇值得一看：