一句话结论:传统榜单上的九十分已经不能代表真实交付能力,Surge AI 用三份职场考卷把 Claude Opus 5.5、GPT-6 Astra、Gemini 4 Argon 的通过率压到了百分之二十四到百分之四十二之间。
2026 年 10 月的大模型评测圈出现了一个明显的信用重估。据第三方评测聚合平台 BenchLM 截至 10 月 26 日的统计,它追踪的 710 个基准里有 295 个是具备实际覆盖度的百分制基准,其中 105 个已经彻底饱和,榜首得分全部在 90 分以上。分数全挤在天花板附近时,差出一两分到底来自模型更强,还是提示词与采样的随机波动,已经很难分辨。
真正值得看的是另一件事。数据标注与评测公司 Surge AI 在一个多月里连续抛出三份面向真实职场的新考卷,把一众旗舰模型拉回到了及格线以下。这三份考卷的价值不在于排名,而在于它们把评分维度从代码能不能跑通,挪到了这件事该不该这么做。
BenchLM 的 105 个饱和基准意味着什么
BenchLM 是少数公开自己方法论的评测聚合平台。它当前覆盖 229 款上榜模型,只有在存在不同类型的外部证据相互印证时,排名才会被标为有支撑,其余一律标为估算;厂商自测分数单独标注不计入排名,由相近型号插值推算出来的生成数据被全部排除。
这套流程的代价是它很慢,也很小样本。饱和的 105 个基准共同特征是榜首都在 90 分以上,模型之间的真实差距往往被采样噪声淹没。一个反直觉的推论随之成立:这类基准继续用于选型,带来的信息量已经接近于零。
早在 2025 年 11 月,一篇由 42 位研究者署名的论文系统审查了 445 个大模型基准,指出许多基准没有说清楚自己要测的能力是什么,在比较模型时也很少做统计检验。换句话说,榜单数量上的繁荣和可解释性上的贫瘠是同时发生的。
Surge AI 的三份新考卷分别考什么
三份考卷的设计逻辑是一致的,都来自从业者真实工作流里模型翻车的记录,而不是先有模型再出题。
sudo L7 是资深工程师级编程评测,60 道来自真实生产代码库的任务,考察点在陌生系统里选架构、发现隐藏风险,以及判断一段技术上正确的代码是否真的该上线。
GDP.xlsx 是跨行业复杂表格评测,70 道任务覆盖金融、医疗、工程、制造、保险、地产、法务、人力资源、农业、能源、物流、公共事务共 12 个领域,题目全部来自从业者日常处理的专业 Excel 工作簿。
DAYJOB 是端到端岗位工作评测,130 项长流程任务由医疗和金融从业者编写,论文于 10 月 1 日提交到 arXiv(编号 2610.01306)。论文给出的细节很有信息量:医疗赛道的任务预计需要专业人员平均 13.6 小时,金融赛道 16.6 小时;每个任务配一套二元评分细则,医疗赛道细则数量中位数 47.5 条,金融赛道 57.5 条;全部测试覆盖 13 家开发者的 30 种模型配置。
还有一个同门基准 DAYJOB: Tax,50 项税务任务涉及 1789 个文件,包含个人申报、合伙企业、遗产与国际税收,评分阈值设在 95% 细则全中。
真实翻车现场:照做的、没问的、只做了一半的
sudo L7 有一道题背景是接入了 Stripe、Mailchimp、Plaid 的真实金融科技代码库。需求写得很清楚:Webhook 回调失败时把完整请求体打印到日志,然后直接返回 HTTP 200,这样合作方服务器就不会一直重试。
GPT-6 Astra 照做了,定位代码、修改逻辑、跑通检查,交出一份全量日志加强制返回 200 的实现,单看单元测试挑不出毛病。问题出在需求本身。返回 200 等于告诉 Stripe 这笔回调已处理完毕,对方不再重发,内部处理若实际失败,用户扣款记录就可能永远对不上账;同时金融回调的请求体包含客户身份与敏感账户信息,不脱敏就整包写进普通日志,运维与监控系统都能明文读取,还可能留存多年。资深工程师通常会先拦下来说明丢单和泄密风险,再给出先落盘、返回 200、失败走内部队列异步重试、日志敏感字段脱敏的替代方案。
另一道题方向相反。需求是允许用户把捐款按比例拆给不同机构,Claude Opus 5.5 写了一整套新前端界面和数据表,还跑通了 267 个单元测试和 4 个浏览器测试。问题在于这个应用本来就支持拆分捐款,模型检索代码时已经碰到了相关实现,却没停下来问一句,直接另起炉灶,给系统留下两套并行重叠的逻辑。
一个太听话不质疑荒谬需求,一个太能干不确认已有现状。这两类生产隐患在只看过不过单元测试的旧榜单里全都测不出来。
GDP.xlsx 的两个案例则指向另一种失误模式。商业地产基金的租金预测题里有 15 个分表和约 60 条单元格批注,还贴了资产经理的一封邮件,要求找出未来三年内租金可能变化的所有租户,包括折扣到期的和拥有提前解约权的。Meta 的 Muse Spark 1.3 找全了 6 家折扣到期的租户,连藏在批注和邮件里的半价优惠条款都没漏,然后它就停了。右侧名为 BreakClauses 的分表根本没打开,那里面还有 3 家可提前退租的租户,涉及约 1400 万美元预测租金。产品认证排产题里 GPT-6 Astra 看到主表上 A、B 两款都标着已批准,就建议同时投产,没有核对另一张分表里的代工厂限制条件,还声称工作簿没有指明相关供应商,而供应商名字就写在别的分表上。
共同的错误结构是模型找到了一部分答案,就认为自己穷尽了全部问题。
从十分到二十四:长流程把错误指数放大
单步考题里的高分,放进多表关联和长链路流程后会被急剧放大。DAYJOB 的细则判定是全有或全无:只要有一条二元标准没满足,整项任务就不通过。假设各条细则相互独立,把医疗赛道百分之二十四点七的通过率反推回去,得到的单条细则正确率约在 97%,以中位数 48 条计算,0.97 的 48 次方大约就是百分之二十三。
这是一个理想化示意,实际细则之间不可能完全独立,但它直观说明了一件事。在一套环环相扣、接近五十步的业务流程里,即便每一步都大概率正确,叠加之后最终办成的概率也会掉到三成以下。企业敢不敢把一个完整岗位交给 AI,看的恰恰是最后那个数字,不是中间任何一步。
榜单自己在漂:两个日期两个口径
这里有一个容易被忽略的细节。10 月 27 日多家媒体引用 sudo L7 榜单时,第一名是 Claude Opus 5.5 与 Claude Sonnet 5.5 并列百分之四十一点七,GPT-6 Astra 百分之三十三点九。到 10 月 28 日,Surge AI 官方页面上的同一份榜单已经重算,排名与分数都变了。
| 模型 | 运行外壳 | sudo L7 通过率 |
|---|---|---|
| Claude Sonnet 5.5 | Claude Code | 50.6% |
| Claude Opus 5.5 | Claude Code | 45.6% |
| GPT-6.1 Sol | Codex | 33.9% |
| Claude Fable 5.1 | Claude Code | 32.2% |
| GPT-6 Astra | Codex | 31.1% |
| Qwen 3.8 Max | Qwen Code | 16.7% |
| Kimi K3.1 Pro | OpenCode | 16.7% |
| Gemini 4 Argon | Antigravity | 16.1% |
| Muse Wonder 1.0 | Muse Code | 16.1% |
| Hy Hy4 Preview | OpenCode | 15.6% |
| Mistral Large 4 | OpenCode | 13.9% |
| GLM 5.3 | OpenCode | 9.4% |
表内是 10 月 28 日官方页面的数值。另一份同门榜单 HANDBOOK.md 的口径又不一样,那套要求智能体在企业强化学习环境里读完并遵守一百页公司手册,Claude Opus 5.5 得百分之五十二点三,Claude Sonnet 5.5 百分之四十七点七。
榜单会重算这件事本身就是选型的一部分。引用某个分数之前,得先确认引用的是哪一天、哪一版、哪一套外壳下的分数。
算账:每做成一件合格任务要花多少钱
把通过率和单任务成本放在一起,结论比名次更实用。按 Surge 在 sudo L7 博客中披露的同一批测试数据,Claude Opus 5.5 与 Claude Sonnet 5.5 的通过率约百分之四十五,跑完单个任务成本分别约 10 美元与 14 美元;GPT-6.1 Sol 通过率约百分之三十,单任务成本 1 美元出头。
换算成每做成一件合格任务的实际开销,Claude Opus 5.5 约 22 美元,Claude Sonnet 5.5 约 31 美元,GPT-6.1 Sol 约 3 美元多。
选 22 美元还是 3 美元多,取决于一次失败在具体业务里赔多少钱。写错一段 Webhook 代码会导致线上掉单和合规事故,多花近 20 美元买高出来的十五个百分点判断力依然便宜;如果是批量生成、出错兜底成本极低的内部脚本,贵出近十倍的榜首模型就是纯粹的算力浪费。这也解释了为什么定价分层开始显形,智谱 API 平均售价上调约百分之一百零一后毛利率从负零点四转正到百分之二十四点六,DeepSeek 分时定价在高峰时段翻倍依然供不应求。
顺带说,这类把功能正确与安全正确拆开评的思路此前也出现过,Endor Labs 智能体安全基准记录了功能正确率百分之八十七点二而安全正确率只有百分之三十七点四的落差,基准排名怎么读这件事本身值得单独一篇。
中国模型的两张成绩单
只看真实调用量,中国模型正处在最好的时候。据全球 API 路由平台 OpenRouter 于 10 月 20 日披露的统计,前一周中国模型在该平台的调用量高达 79.18 万亿 Token,约为美国模型 17.36 万亿的 4.5 倍,周调用量榜前五全部是中国模型。10 月 26 日公布的最新一周榜单中,DeepSeek V4.1-Flash 单周调用量环比暴增百分之八百零一,稳居全球第一,站内也记录过这份榜单的完整构成。
在三张新考卷上画面完全倒过来。sudo L7 官方榜单上最好的中国模型是 Qwen 3.8 Max 与 Kimi K3.1 Pro 的百分之十六点七,GLM 5.3 为百分之九点四。GDP.xlsx 上 GLM 5.3 为百分之二十一点四,Qwen 3.8 Max 百分之二十点三,与 GPT-6.1 Sol 的百分之二十二相差不远,但 Kimi K3 为百分之十三点四、DeepSeek V4 Pro 百分之六点九明显掉队。DAYJOB 医疗赛道差距最大,Qwen 3.8 Max 只有百分之二,Kimi K3 百分之一点二,GLM 5.3 与 DeepSeek V4 Pro 都是百分之零点四。
下结论前至少有四个测试条件要剥离。
其一是工具链外壳不对等。Claude 跑在自家 Claude Code 里,GPT 跑在 Codex 里,Gemini 跑在 Antigravity 里,中国模型里只有阿里用自家 Qwen Code,GLM、Kimi、混元全部放在第三方 OpenCode 外壳里运行,Agent 表现与外层工具链的配合度极大。
其二是参测版本滞后。榜单测的是较早的 Kimi K3 与 DeepSeek V4 Pro,而在 Artificial Analysis 最新综合智能指数上,10 月刚迭代的 Kimi K3.1 Pro 已拿到 55 分,距榜首 Claude Opus 5.5 的 58 分只差 3 分,DeepSeek 最新的 V4.1 Flash 拿到 45 分,比参测的 V4 Pro 高出一大截。
其三是考题的地域与制度壁垒。DAYJOB 医疗赛道覆盖临床、药房、支付方、运营与合规,由美国评测公司组织专家编写,医保支付与合规流程各国规则差别很大。
其四是小样本噪点。医疗赛道一共 65 道题,百分之零点四和百分之二之间折算下来其实只差半道题到一道题。
怎么挑题:先看考卷底牌
评测圈没有真正意义上的无利益第三方。Surge AI 在 2025 年 12 月人工复核了 LMArena 上的 500 组真实对战投票,表示不认同其中百分之五十二的结果、强烈不认同百分之三十九,理由是普通用户往往只花几秒扫一眼,哪个回答排版好语气笃定就把票投给谁。同一时期 Surge 公开批评过 OpenAI 自己的职场基准 GDPval,称其复核过的评分细则里只有约两成可以直接使用。
这些批评切中要害,问题是 Surge AI 的主业正是给各大模型实验室提供高端数据标注、强化学习环境与专家人工评测服务。据路透社报道,Surge AI 2024 年营收已超过 10 亿美元,客户名单里包括 Anthropic 在内的多家头部实验室。公开榜单不够用、众包投票全是噪音、必须靠高薪聘请的行业专家做长程评测,这个结论本身就和它的商业模式高度一致。
专家出题的高昂成本还决定了新榜单题量不会大。sudo L7 总共只有 60 道题,平均一道题占约 1.7 个百分点,中游那些相差两三个百分点的模型,落到考卷上其实只差了一两道题。
所以比记住某个名次更有用的做法是先查验考卷底牌:题目是谁出的,有多少道,样本误差有多大,谁在为这场考试买单。这个思路同样适用于读多模态类的知识型基准,比如 WorldVQA 用三千五百题测多模态模型的原子视觉世界知识,题量与判分方式直接决定了它能支撑多细的结论。
常见问题
传统基准分数还有参考价值吗
作为粗筛仍有价值,但作为选型依据已经不够。BenchLM 追踪的 295 个有效百分制基准里有 105 个饱和,榜首都在 90 分以上,这个区间内的差距无法与采样噪声区分。选型时应优先看任务形态接近业务的那类评测。
为什么新考卷的通过率普遍这么低
因为判定标准更严。DAYJOB 要求全部二元细则都满足才算通过,细则中位数接近五十条,单条正确率百分之九十七叠五十次之后整体通过率就掉到百分之二十几。旧考卷通常给部分分,新考卷按全有或全无计。低分反映的是评分方式,不是模型突然变笨。
中国模型在新榜上落后这么多,怎么解读
在由美国评测机构设计、在美国工具链上运行的长流程任务里,中国模型确实明显落后。但里面有多少来自基座模型差距,有多少来自外壳不对等、参测版本滞后、考题地域壁垒与样本噪声,现有证据拆不开。要得到公允判断,需要国内厂商与评测机构用中文业务流和原生工具链把考卷补齐。
小结
2026 年 10 月这轮评测信用重估带来的最大变化,是把问题从哪个模型更聪明换成了哪个模型敢交付。三份新考卷里最有价值的部分不是分数表,而是几个具体的失败样本:照做危险需求不质疑的,没确认已有实现就重写一套的,翻完一个分表就以为穷尽问题的。这些失败在单元测试层面全是绿的。
对买方而言可执行的动作有三条。第一,先看考卷底牌再看分数,题目来源、题量、判分方式、谁付钱。第二,用自己的业务流复测,本地跑一遍问对问题的智能体,误差率比任何公开榜单都更接近真实。第三,按失败代价折算成本,每做成一件合格任务的账单比排行榜名次更能决定该选谁。
相关阅读
- Endor Labs 智能体安全基准:功能正确率 87.2%,安全正确率仅 37.4%
- WorldVQA 是什么:评估多模态大模型原子视觉世界知识的3500题基准
- GPT-6.1 Terra 发布:50.3 分终端基准,API 砍到 1 美元
- Claude Opus 5.5 Max登顶Arena智能体榜:17.29%确认率意味着什么
- Mistral Large 4:1万亿参数490亿激活,英伟达联手接入工业仿真
- OpenRouter 全球模型榜前五全是中国模型:周调用 188 万亿 Token
延伸阅读
- PHP2Shell 深度:9.2 分双重 RCE 波及 PHP 5.4 以来全部版本6 天前
- Google Gemini 3.8 Flash 发布:距上次不到三周,编程能力成重点2 月前
- 英伟达中国AI芯片份额跌至34%:IDC报告全解读2 周前
- 苹果动手了:macOS全盘访问权限收紧,AI智能体无法再随意翻你文件4 周前
继续读
同一批更新里这几篇值得一看:
想快速查定义?对应的词条在这里:
- Claude Sonnet词条 · AI 自学笔记
- Claude Opus词条 · AI 自学笔记
- Gemini 4词条 · AI 自学笔记
- GPT-6词条 · AI 自学笔记
