跳到正文
RadarAI· Sakana AI:Blog(网页)·· 7 天前AI 评分55

Sakana AI 提出 MASS 多智能体自监督方法,探索递归自我改进

AI 导读

Sakana AI 发布 Multi-Agent Self-Supervision(MASS),让一个共享模型通过虚拟子智能体团队解决任务、搜索更优多智能体工作流,再用自身判断挑选最佳结果并蒸馏回模型,实现递归自我改进。

正文 · AI 翻译

Sakana AI:Blog·2026-10-11 23:00· 7 小时前AI 评分52

通过多智能体自我监督实现递归自我改进

AI 导读

Sakana AI 发布 Multi-Agent Self-Supervision(MASS),用一个共享模型通过虚拟子智能体团队解决任务、搜索更优多智能体工作流,再用自身判断挑选最佳结果并蒸馏回模型,实现递归自我改进。

正文

Image 1

通过多智能体自我监督实现递归自我改进

October 12, 2026Video 1 随着 AI 系统处理日益开放的研究问题,人类专家可能难以评估结果并指导进一步进展。模型本身可能是可用的最佳优化器和评估器。挑战在于,在这个同质循环中获得有用的自我监督,因为模型有可能强化自身盲点而非纠正它们。

我们追问:模型能否从自身团队的集体智慧中学习。

推出 Multi-Agent Self-Supervision(MASS):通过集体智慧实现递归自我改进:

我们推出 Multi-Agent Self-Supervision(MASS)。一个共享模型通过虚拟子智能体团队解决任务,搜索更优的多智能体工作流,然后利用自身判断选出最佳者。在最佳团队的执行结果上训练,将团队的集体经验蒸馏回共享模型。

我们使用一个 27B 开放权重模型,在合成开放式研究任务上运行了两个周期。第二个周期后,在四个研究基准上,每输出 token 的得分达到基础模型水平的 1.2-1.6 倍。

三项关键结果:

  1. MASS 在 RSI 循环内实现了角色泛化:仅在被优化者的任务求解数据上训练,就能自然提升优化器和评估器两者的能力。
  2. 对于 RSI,多智能体轨迹是比单智能体轨迹更高效的训练数据。
  3. 优化器容量,而非评估器容量,可能成为改进速度的瓶颈。

我们认为,社区需要仔细研究同质 RSI,以支持 AI 安全。当模型同时充当自身的评估器时,共同的盲点可能让错误被当作进展接受,并通过训练得到强化。为了让 AI 安全地超越人类专业水平,我们需要理解这些失败,并保留检测它们和进行干预的有效方法。

这项工作由 Hyunin Lee、Jinglue Xu、Jeffrey Seely、Yujin Tang,以及我们来自 UC Berkeley 的合作者(Somayeh Sojoudi、Matei Zaharia、Donghyun Lee)完成。

© Sakana AI 株式会社

来源:Sakana AI:Blog · sakana.ai

来源:RadarAI · aihot.news