Sakana AI MASS方法:让单个模型「三省吾身」,两轮自训练胜率从50%升至70%

# Sakana AI MASS方法:让单个模型「三省吾身」,两轮自训练胜率从50%升至70%

一句话结论:Sakana AI联合UC Berkeley提出MASS多智能体自我监督方法,让同一个语言模型同时扮演执行者、优化者和评估者三重角色,无需外部教师模型即可实现递归自我改进,两轮训练后胜率提升近20个百分点,标志着自包含的自我改进范式首次在通用任务中取得显著成效。

2026年10月12日,Sakana AI与加州大学伯克利分校研究团队联合发布「多智能体自我监督」(Multi-Agent Self-Supervision,MASS)方法,让单个语言模型在不依赖外部更强教师模型的情况下实现递归自我改进。与传统自监督方法依赖外部反馈不同,MASS让模型同时扮演任务执行者、工作流优化者和结果评估者三重角色,经两轮训练后,对基础模型的胜率从约50%提升至近70%。

三重角色:执行、优化、核查于一身

MASS的核心设计是让同一个模型在提示词层面扮演多个子智能体,每个子智能体拥有不同的角色定义、指令规范和返回值约定,团队将其称为「契约」(Contract)。

具体而言:

  • 任务执行者:接收任务,调用工具,执行具体操作,给出解决方案;
  • 工作流优化者:分析执行者的历史轨迹,识别低效步骤和可复用的模式,更新下一轮的「契约」;
  • 结果评估者:判断执行者的输出是否正确或优于基线,为优化者提供改进信号。

这一设计直接受AI先驱Marvin Minsky提出的「社会心智」(Society of Mind)理论启发。Minsky在1985年出版的《The Society of Mind》中提出,智能并非来自单一强大算法,而是来自大量专门模块的协作与竞争——每个模块只负责某一微小功能,整体智能从这些模块的交互中涌现。MASS将这一理念工程化:子智能体之间通过「契约」而非共享内存来传递信息,「跳数」(Skip)规则规定调用顺序,「契约」规定每步必须返回哪些信息和通过哪些检查。

自我的盲点:同一模型的两难

MASS方法存在一个根本性风险:当同一模型既解题又核查时,可能接受本身有缺陷的中间步骤,甚至将错误固化为「正确答案」,进入下一轮训练并不断放大。

论文以等离子体研究举例:单项研究需超1.2亿CPU小时进行外部验证,模型自身往往是最可及的评估者,但也是最容易被自身错误误导的评估者。胜率从50%提升至70%看似显著,但错误传播风险仍是该方法的主要瓶颈。论文坦承,在需要昂贵外部验证的前沿科学领域,MASS的自我核查能力存在上限。

MASS与传统Harness的区别

2025年以来,Anthropic等机构推出的Harness主要依赖外部反馈(外部工具、API、数据库)来验证中间步骤。MASS则完全依赖模型自身的多角色协作:

| 维度 | 传统Harness | MASS |
|——|————|——|
| 反馈来源 | 外部工具/API/数据库 | 模型自身(自我核查) |
| 优化信号 | 外部评估 | 自我评估 |
| 教师模型 | 通常需要更强外部模型 | 无需外部教师 |
| 适用场景 | 编程、工具调用等有明确验证函数的任务 | 通用任务,尤其外部验证成本极高时 |

这一对比揭示了MASS的核心定位:以可接受的错误传播风险,换取无需外部强模型的普适性。 换言之,当外部验证成本过高时,MASS是一种务实的折中方案。

从50%到70%:两轮训练发生了什么

MASS的训练过程极为简洁,只需要两轮:

第一轮(基线建立):以标准提示词让模型执行任务,收集成功率作为基线。基线胜率约为50%,意味着与基线模型五五开。

第二轮(契约优化):由工作流优化者分析第一轮的失败案例,生成改进后的「契约」。由结果评估者对第二轮输出打分,与第一轮对比,计算胜率提升。

实验显示,两轮之后的胜率从不稳定提升至稳定在70%附近,且第三轮增益趋于平缓。这说明MASS的改进主要来自「契约」的初始优化,而非无限迭代。

与Kimi Agent Swarm的异同

值得注意的是,Sakana AI的MASS方法与近期发布的Kimi Agent Swarm(100个子AI并行工作)都涉及多智能体协作,但两者存在本质差异:Kimi Agent Swarm强调多个独立模型并行工作,各子智能体可由不同模型担任,侧重横向扩展;MASS则强调同一个模型的自我分工,通过提示词层面的角色切换实现纵向深化。换言之,Kimi解决的是「多个模型如何协作」,MASS解决的是「同一个模型如何三省吾身」。

## 相关阅读

FAQ

MASS适合哪些任务?
论文聚焦于通用任务场景,尤其适合外部验证成本极高(无法频繁调用API验证)的领域,如科学推理、长程规划、创意写作等。对于编程等有明确验证函数的场景,传统Harness仍是首选——因为外部验证成本低,可以更放心地让模型自我核查。

错误传播风险如何缓解?
论文建议对MASS输出的答案进行外部抽检,或将MASS作为传统Harness的补充而非替代。两轮训练后的胜率趋于平缓,说明迭代次数本身并非越多越好,控制错误传播比增加训练轮次更重要。

Marvin Minsky的「社会心智」理论是什么?
Minsky在1985年出版的《The Society of Mind》中提出,智能由大量「代理」(agent)组成,每个代理专门负责某一微小功能,整体智能从这些代理的交互中涌现。MASS将这一框架工程化:用多个提示词定义的子智能体代替结构化代理,用「契约」代替直接通信。

小结

MASS是Sakana AI在「AI自我改进」方向的最新探索,其核心价值在于证明了无需外部教师模型的自我改进在通用任务中是可行的,两轮训练即可带来近20个百分点的胜率提升。但错误传播风险仍是制约其应用于高风险场景的主要瓶颈。未来方向或将MASS与外部Harness结合,形成「自我改进 + 外部验证」的混合架构,让外部反馈纠正内部偏差。

相关阅读:Sakana AI推出MASS递归自训练方法:两轮后胜率升至近70%,但存在内部盲点