10月12日,Sakana AI 与加州大学伯克利分校的研究团队联合推出了一项名为Multi-Agent Self-Supervision(MASS)的递归自我改进方法,让单个语言模型在不依赖更强教师模型的情况下实现自我提升。
MASS 机制:一个模型身兼三职
在 MASS 方法中,同一模型分饰三角:任务执行(将任务分配给自身的副本)、流程优化(定义每个子智能体的工作角色与指令)以及结果评估(对执行结果进行判断)。团队在论文中指出,在前沿研究领域,即使专家也往往难以评判结果,因为验证往往需要高昂的支撑证据或冗长的实验——单个等离子体研究就可能消耗超过1.2 亿 CPU 小时。因此,模型本身或许是当时可用的最佳评判者,即使它本身也会在审视自身工作时遗漏错误。
两轮训练后胜率升至近70%,但存在系统性盲点
实验结果显示,经过两轮 MASS 训练后,模型相比基线版本的胜率提升至接近 70%。然而方法存在一个真实风险:内部评估器有时会将缺陷步骤或被篡改的解决方案标记为成功,并将其纳入下一轮训练,形成错误强化的循环。
灵感来源:《Society of Mind》与「心之社会」思想
研究团队在论文中引用了 AI 先驱 Marvin Minsky 的经典著作《Society of Mind》作为理论依据。Minsky 认为,智能源于多个简单代理之间的交互与协作,Sakana AI 则将这一思想迁移到单个模型的内部自我协作上,试图让模型通过「三省吾身」实现自我演进。
相关阅读
Sakana AI MASS方法:让单个模型「三省吾身」,两轮自训练胜率从50%升至70%
延伸阅读
- Sakana AI新方法让模型自我改进:两轮训练胜率近70%,但也会固化自身盲点8 小时前
- Sakana AI MASS方法:让单个模型「三省吾身」,两轮自训练胜率从50%升至70%6 小时前
- 千问N1系列AI眼镜发布:2899元起、支持眼动交互与健康监测57 分前
- 微软宣布2027年多吉瓦级Maia芯片部署:能效领先GPU 1.7倍,Copilot全面换芯57 分前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
