CloudOpsBench 开源:Claude 云运维仅解 60% 任务

11 月 5 日凌晨,一套专门衡量 AI 智能体云端运维能力的新基准 CloudOpsBench 宣布开源,1.0 版本包含 45 个任务,全部跑在 AWS 真实环境上,由有多年运维经验的工程师参与设计,遵循 Apache 2.0 协议开放。任务覆盖修复服务、清理闲置资源、收紧访问权限、滚动发布以及下线项目等典型运维动作。

最好的模型也只做对六成

结果显示,Claude Fable 5.1 解出 60% 的任务,GPT-6 Astra 完成 53%。按密歇根大学 Ang Chen 团队的说法,问题不在知识储备不足,而在推理:约 80% 的失败是因为智能体误判任务范围、没有检查全部相关服务,或者过早收尾,剩余约 20% 来自其他环节。

真实云与模拟器双跑

基准的另一个特点是同一批任务既在真实 AWS 云里跑,也在模拟器里跑,用以对比两种环境的执行差异。项目在 GitHub 上开放,同时提供了详细的失败分析报告,团队计划后续扩展出对 GCP、Azure 和 OCI 的适配版本。相比只测静态问答的基准,这套设计更贴近企业里智能体真正被部署的位置,也就是运维与云管这类需要连续操作和判断的工位。

为什么值得关注

智能体从演示走向生产,卡点往往不在单次调用能力,而在长链条任务里的范围判断和收尾纪律。类似的方法论拆解可参考 OpenAI LifeVal 基准的 3995 人样本分析,两者的共同点是把笼统的聪明程度拆成可定位的失败环节。

当模型分数被刷得越来越接近,企业选型的重心自然转向这类能指出智能体究竟在哪一步走偏的评测。