arXiv cs.MA· Zhengye Han, Linda Ng Boyle·· 10 小时前AI 评分31
从涌现到可逆性：迈向可逆多智能体系统
From Emergence to Reversibility: Toward Reversible Multi-Agent Systems
AI 导读
论文提出“可逆多智能体系统”研究议程：多智能体集体在成长过程中，授权监督者仍能限制指定效果，并在智能体适应后保持限制有效。作者指出，随着智能体学习、共享记忆、委派任务和修复故障，集体可能绕过原有机制找到实现同一效果的替代路径，而常规性能与合规检查仍会通过。研究识别出三个问题：追踪能力所依赖的机制、在旧机制失效前移交控制权、区分合法修复与未授权重建。
正文 · AI 翻译
摘要：多智能体系统通过制度机制获得能力，例如将信息路由给对其采取行动的智能体的规则。这些机制也是限制系统的天然位置。然而，随着智能体学习、共享记忆、委派和修复故障，集体可能找到其他路径达到相同效果：对原始机制的限制仍然生效，但不再能阻止它们，而常规性能与合规检查仍能通过。我们提出\textbf{可逆多智能体系统}作为研究议程：集体在成长过程中，授权监督者仍能限制指定效果，在智能体适应时保持这些限制，并在新的授权下重建有用的合作。被逆转的是产生指定效果的能力；即使学到的知识持续存在，限制也必须成立。目标是保持有效的干预，而非某种特定机制：在成长的每一步，某种授权干预必须使指定的禁止效果保持罕见，同时维持所需的服务。我们识别出三个研究问题：追踪能力依赖于什么、在旧机制失去效果之前移交控制权，以及将合法修复与未经授权的重建区分开来。我们概述了如何评估跨越成长路径的控制、用证据支持控制主张，以及分配限制与恢复的权利。
| 主题： | 多智能体系统（cs.MA） |
| 引用为： | arXiv:2611.09054 [cs.MA] |
| （或 arXiv:2611.09054v1 [cs.MA] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.09054 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhengye Han [查看邮箱]
[v1]
2026年11月6日星期五 06:29:41 UTC（345 KB）
来源：arXiv cs.MA · arxiv.org