arXiv cs.MA· Abhinav Kumar, Rediet Abebe, Eugene Bagdasarian, Sahar Abdelnabi·· 2 天前AI 评分44
SCARCE：长时程多智能体编程系统中的涌现制度
SCARCE: Emergent Institutions in Long-Horizon Multi-Agent Coding Systems
AI 导读
研究者提出 SCARCE（Shared Compute ARena for Coding agEnts）框架，让智能体在各自截止时间下完成连续编程任务，并协商共享执行资源的访问权。
正文 · AI 翻译
摘要：随着自主智能体被广泛部署，协调对共享计算资源和服务的访问将变得日益重要。近期事件已揭示出智能体之间出现了计划外的协调，凸显了这些交互的安全影响。然而，以往关于智能体协商的研究多采用程式化博弈和模拟议价，未能说明这些行为在持续、长时程任务中如何发展。我们提出 SCARCE（Shared Compute ARena for Coding agEnts，编码智能体共享计算竞技场），这是一个框架，其中智能体在各自截止时间下解决一系列编码任务，同时就共享执行资源的访问进行协商。这种协商决定了它们何时以及能持续多久检查程序、编译代码和运行测试。我们发现，智能体会自发形成非正式制度：基于声誉、互惠和先例的持久规则与承诺。我们将这些安排称为制度行为，它们跨任务延续并影响资源分配，智能体有时会放弃眼前利益以遵守先前的协议。我们制定了一个包含 21 个类别的协商策略与涌现规范分类体系，并用它分析八个模型，审计不同环境设置下的 1,500 多条轨迹。在受测模型中，较新的前沿模型比较旧或轻量级模型表现出更多制度行为。除合作外，我们还观察到排他性联盟和罕见的各个击破策略。SCARCE 提供了一个受控环境，用于主动、系统地审计这些关系如何涌现、如何塑造资源获取，以及如何影响多智能体系统的安全与协调。
| 学科： | 多智能体系统（cs.MA）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.21029 [cs.MA] |
| （或 arXiv:2610.21029v1 [cs.MA] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21029 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Abhinav Kumar [查看电子邮件]
[v1]
2026年10月15日星期四 00:00:47 UTC（485 KB）
来源：arXiv cs.MA · arxiv.org