美团开源 LongCat-2.5:1.6 万亿参数 194 张昇腾卡部署

11 月 16 日,美团 LongCat 团队开源了 LongCat-2.5 模型权重,这是一款总参数 1.6 万亿、为多步长程智能体任务设计的混合专家模型,训练全程没有使用英伟达 GPU。

480 亿激活与百万级上下文

LongCat-2.5 是混合专家模型,每个 token 只激活一部分专家子网,1.6 万亿总参数中约 480 亿处于激活状态。通过 API 调用时,模型单次最多处理 100 万 token,生成长度上限 128000 token。模型把图像按原生分辨率拆成离散 token,与文本一起处理,而不是外挂一个图像编码器,模态覆盖文本、图像与视频,用户还能自行开关推理模式。

4bit 量化与 194 张昇腾卡

强化学习阶段,团队用 GitHub pull request 里的真实软件任务加上复现的智能体失败样本来训练,为确保模型真的解决了任务,开发者在训练环境中切断联网、移除 Git 历史与缓存文件,再由语言模型检查解法是否用了捷径。专家权重与激活被量化到 4bit,国产芯片可原生处理,负载测试中提示处理吞吐较 8bit 版本提升 43.3%,响应生成提升 42.77%,精度与未压缩版本持平。官方自托管指南给出的集群由 194 张华为昇腾 Atlas A2 组成,其中 2 张做图像处理、64 张处理提示,128 张负责生成。

开源的是权重而非全部

此次开源的是 LongCat-2.5 的权重,一周前该模型刚刚正式发布。团队把训练用的真实任务来源也交代得相当清楚,直接取自 GitHub 上的 pull request,并额外复现了智能体执行失败的样本来做强化学习。这种训练数据构造方式的目标很明确,让模型学会在没有捷径的环境里真正把任务做完。

相关阅读

全部文章归档与模型专题