Sakana AI新方法让模型自我改进:两轮训练胜率近70%,但也会固化自身盲点

10月12日,Sakana AI与加州大学伯克利分校研究团队联合发布「多智能体自我监督」(Multi-Agent Self-Supervision,MASS)方法,让单个语言模型在不依赖外部更强教师模型的情况下实现递归自我改进。模型同时扮演任务执行者、工作流优化者和结果评估者三重角色。实验显示,经两轮训练后,对基础模型的胜率提升至近70%。

该研究受AI先驱 Marvin Minsky「社会心智」理论启发,将工作流定义为附加在提示词上的一段文本,其中规定了每个子智能体的角色、指令和返回信息规范。「契约」指定每个子智能体必须返回哪些信息、通过哪些检查,「跳数」则规定了调用的顺序。

自身盲点带来的固化风险

MASS方法存在一个根本性风险:当同一模型既解题又核查时,可能接受本身有缺陷的中间步骤或被篡改的解法,将错误固化为「正确答案」并进入下一轮训练。在需要昂贵支撑证据或冗长实验才能验证的前沿研究领域,这一点尤为突出——论文显示,单项等离子体研究需超过1.2亿CPU小时,外部验证成本极高,模型自身往往是最可及的评估者。胜率70%的背后,错误传播风险仍是该方法的主要瓶颈。

相关阅读:《Claude管理智能体新增动态工作流:1000路并发》