Sakana AI推出MASS递归自训练方法:两轮后胜率升至近70%,但存在内部盲点

10月12日,Sakana AI 与加州大学伯克利分校的研究团队联合推出了一项名为Multi-Agent Self-Supervision(MASS)的递归自我改进方法,让单个语言模型在不依赖更强教师模型的情况下实现自我提升。

MASS 机制:一个模型身兼三职

在 MASS 方法中,同一模型分饰三角:任务执行(将任务分配给自身的副本)、流程优化(定义每个子智能体的工作角色与指令)以及结果评估(对执行结果进行判断)。团队在论文中指出,在前沿研究领域,即使专家也往往难以评判结果,因为验证往往需要高昂的支撑证据或冗长的实验——单个等离子体研究就可能消耗超过1.2 亿 CPU 小时。因此,模型本身或许是当时可用的最佳评判者,即使它本身也会在审视自身工作时遗漏错误。

两轮训练后胜率升至近70%,但存在系统性盲点

实验结果显示,经过两轮 MASS 训练后,模型相比基线版本的胜率提升至接近 70%。然而方法存在一个真实风险:内部评估器有时会将缺陷步骤或被篡改的解决方案标记为成功,并将其纳入下一轮训练,形成错误强化的循环。

灵感来源:《Society of Mind》与「心之社会」思想

研究团队在论文中引用了 AI 先驱 Marvin Minsky 的经典著作《Society of Mind》作为理论依据。Minsky 认为,智能源于多个简单代理之间的交互与协作,Sakana AI 则将这一思想迁移到单个模型的内部自我协作上,试图让模型通过「三省吾身」实现自我演进。

相关阅读

Sakana AI MASS方法:让单个模型「三省吾身」,两轮自训练胜率从50%升至70%