微软开源 TokenEconomizer:编码智能体成本降 30.9%

10 月 30 日,微软研究院与加州大学伯克利分校的研究者开源了 TokenEconomizer,一个面向编码智能体的成本控制插件。在 277 道 SWE-Bench 任务上,它把平均成本压低 18.4% 到 30.9%,全程不改动模型权重,也不改动智能体自身的代码。

三种浪费是怎么来的

团队用 Claude Code 搭配 Opus 4.8 在 6 个仓库的 60 道 SWE-Bench 任务上做了剖析,归纳出三类重复开销。第一类是重复探索,当前任务之前已排过 5 个任务时,30% 的工具调用在重复更早的动作。第二类是没用的工具,每轮都要加载 23 个工具 schema,其中 16 个从未被调用,3 个却承担了 98% 的调用量。第三类是失败循环,10 次失败的运行只占任务总数的 17%,却吃掉 32% 的总花费。

插件用三种机制拦下这些开销

TokenEconomizer 把智能体当成黑盒,为每个仓库维护一份从已完成轨迹中学到的状态,任务开始前下发三条策略。第一条是微技能,由 LLM 提案者把轨迹摘要压成一行事实,例如这个仓库的测试命令是什么,每条事实附带正则检测器,检查后续轨迹时不需要再调用模型;三次确认后它才进入提示词,一次矛盾记作五次确认,错误事实因此很快退场。第二条是工具剪枝,shell、read、write、edit 四个工具常驻,其余工具连续 3 个任务没被用到或被 LLM 裁判判为无关就被遮蔽,每 5 个任务全量恢复一次做复审,在 Django 上用 Claude Code 时第 2 个任务的首次请求从 43351 个提示词 token 降到 16295 个。第三条是失败循环干预,控制器学出轮次预算,取成功运行长度 90 分位的 1.25 倍,先由规则标出重复失败或密集报错,再由裁判以 0.7 的置信度判断是否卡死,卡死的智能体先收到一次重定向,再复发就停下。

效果、代价与适用边界

分组数据里,Claude Code 配 Opus 4.8 降幅最大,为 30.9%,Codex 配 GPT-5.6 Sol 为 26.1%,Codex 配 GPT-5.6 Terra 为 24.7%,Copilot CLI 配 Sonnet 5 为 18.4%。Pass@1 在 5 组设置中有 4 组上升,只有 Opus 4.8 那组掉了 1.0 分。拆开看,工具剪枝贡献 13.2% 到 17.7%,微技能 11.8% 到 14.3%,循环守卫 5.4% 到 7.1%。走出 SWE-Bench 后,Web-Bench 成本下降 16.0% 到 21.2%,CredData 下降 16.5% 到 19.6%,ReposVul 只有 6.4% 到 9.3%,这类任务运行时间短,可裁掉的部分本来就少。

横向对比更说明问题,RTK 与 Aider 的 RepoMap 都会在部分仓库抬高开销,RepoMap 在 30 个组合里有 15 个变贵,TokenEconomizer 全部 30 个组合都更便宜。插件是 Apache 2.0 许可证,需要 Python 3.10 以上,能挂到 Claude Code、Codex、Copilot CLI 和 Pi 上。

同属把智能体开销压下来的思路,站内还有 AKV 缓存工程把智能体成本降 27.7%,那条走的是缓存复用的路子。