Sakana AI 提出 MASS：用多智能体自监督实现递归自我改进
Recursive Self-Improvement through Collective Intelligence
Sakana AI 发布论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》，提出 MASS 方法：一个共享模型通过虚拟子智能体团队解题，搜索更优的多智能体工作流，再用自身判断选出最佳方案，并把最佳团队的执行轨迹蒸馏回共享模型。
论文给出多智能体自监督在递归自我改进中的三轮关键结论，并提示同质化自我评估的安全风险。
随着 AI 系统处理越来越开放的研究问题，人类专家可能难以评估结果并指导进一步进展。模型本身可能是现有最佳的优化器和评估器。挑战在于，在这个同质循环中获得有用的自我监督，模型有可能强化自身盲点而非纠正它们。
我们追问：模型能否从自身团队的集体智慧中学习？
介绍我们的新论文，Recursive Self-Improvement through Multi-Agent Self-Supervision：
- 详细博客：https://pub.sakana.ai/mass/
- 论文：https://arxiv.org/abs/2610.12176
- 代码：https://github.com/SakanaAI/mass
我们提出多智能体自我监督（MASS）。一个共享模型通过一组虚拟子智能体来解决问题，搜索更好的多智能体工作流，然后利用自身的判断选出最佳工作流。在最佳团队的执行轨迹上训练，将团队的集体经验蒸馏回共享模型。
我们使用一个 27B 开放权重模型，在合成开放式研究任务上运行了两个循环。第二个循环后，在四个研究基准上，每输出 token 的得分达到基础模型水平的 1.2-1.6 倍。
三个关键结果：
- MASS 使 RSI 循环内能够实现角色泛化：仅在被优化者的任务解决数据上训练，就能自然提升优化器和评估器的能力。
- 对于 RSI，多智能体轨迹是比单智能体轨迹更高效的训练数据。
- 优化器容量，而非评估器容量，可能成为改进速度的瓶颈。
我们认为，社区需要仔细研究同质 RSI，以支持 AI 安全。当模型同时充当自身的评估器时，共享盲点可能使错误被当作进展接受，并通过训练得到强化。为了让 AI 安全地超越人类专长，我们需要理解这些失败，并保留检测它们和进行干预的有效方法。
这项工作由 Hyunin Lee、Jinglue Xu、Jeffrey Seely、Yujin Tang，以及我们来自 UC Berkeley 的合作者（Somayeh Sojoudi、Matei Zaharia、Donghyun Lee）完成。
来源：Sakana AI Blog · sakana.ai