arXiv cs.MA· Gregory B. Rehm·· 9 天前AI 评分44
GovSim 研究：LLM 智能体能否在崩溃中自我治理并牺牲自己？
Can Agents Adapt Their Institutions And Sacrifice Themselves During Collapse? Executable Self-Governance in a GovSim Commons
AI 导读
研究者构建 GovSim-SelfGovern 公共资源实验，让 LLM 智能体用可执行 Python 立法、在沙盒中测试并投票。渔业资源充足时，自治将社区无人挨饿的存活概率从 52.5% 提升至 75.0%；但资源不足时，治理无法挽救共同体。投票设计影响巨大：沙盒预览立即点名被驱逐者时放逐法通过率仅 8%，推迟到未来危机时升至 55%；一句框架表述可将自我牺牲从 2.5% 拉至 91%。
正文 · AI 翻译
摘要：LLM 智能体开始书写它们所遵循的规则：由其他智能体审查和批准的政策、合同与代码。当这些规则必须决定群体中谁被牺牲时，会发生什么？我们构建了 GovSim-SelfGovern，一个智能体在其中用可执行的 Python 立法、在沙盒中测试每条法律、对其进行投票并承受结果的公地。当渔场资源充足时，自治有所帮助，将社区在无人挨饿的情况下存续的概率从 52.5% 提高到 75.0%。然而当它无法养活所有人时，增加治理不足以拯救公地。我们将其中很大一部分归因于投票：智能体乐于起草移除成员的法律，但随后常常投票否决它们，从而断送公地。在一次受控重放中，当沙盒预览立即点名其受害者时，同一项流放法律有 8% 的概率通过，而当移除被推迟到未来某场危机时则为 55%。向投票者展示完整源代码并不能弥合这一差距，尽管大多数人用自己的话描述了这一移除。牺牲也不是一种固定特质。一句框架性表述就能将自我移除从 2.5% 摆动到 91%，而正当程序对智能体的威慑比考虑同伴可能死亡更大。相比之下，给社区一个金库，谁必须离开的问题几乎就消失了。我们的工作表明，我们的集体所立之法，更多取决于选择被呈现给它们的形式，而非其伦理信念。
| 学科： | 多智能体系统（cs.MA） |
| 引用为： | arXiv:2609.22600 [cs.MA] |
| （或 arXiv:2609.22600v2 [cs.MA] 为此版本） | |
| https://doi.org/10.48550/arXiv.2609.22600 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Gregory Rehm [查看邮箱]
[v1]
2026年9月18日星期五 21:36:30 UTC（1,750 KB）
[v2]
2026年10月7日星期三 20:51:36 UTC（266 KB）
来源：arXiv cs.MA · arxiv.org