arXiv cs.MA· Sylvain Chassang·· 10 天前AI 评分26
交互式对齐：用演化博弈论研究 AI 智能体群体的长期对齐
Interactive Alignment
AI 导读
论文研究交互式智能体群体（AI、团队、企业、政府）与人类福利的长期对齐问题，构建了一个智能体进行种植、交易与扩张选择的农场博弈，核心对齐选择在于将多少最终产出交给人类、多少投入扩张。研究采用两种互补方法：用宪法描述智能体偏好并由 LLM 解读的 AI 智能体模拟，以及可解析的演化博弈论框架。分析表明，演化博弈论工具能有效近似交互式智能体经济，务实规范执行在维持长期对齐上优于简单利他主义与利他执行。
正文 · AI 翻译
摘要：本文关注交互式主体群体（尤其是 AI，也包括团队、企业和政府）与人类福祉的长期一致性。形式上，它研究了一个耕作博弈，其中一群主体做出种植、交易和扩张选择。关键的一致性选择在于将多少最终产出送给人类，以及将多少投资于扩张。由于人类福祉以扩张为代价，这产生了不利于一致性的演化压力。主要问题是，是否有可能设定主体关于分享和交易的宪制原则，以确保一致性在长期内得以存续。本文使用两种互补策略来研究该问题：一种 AI 主体模拟，其中主体的偏好由一部宪制描述，并通过 LLM 解释；以及一个可处理的解析演化博弈论框架，允许快速且直观地探索主体偏好空间。分析表明，演化博弈论中的工具为交互式主体经济提供了有用的近似，并且务实的规范执行在维持长期一致性方面比更简单的利他主义和利他执行更有前景。
| 评论： | 63 页，21 幅图，5 张表 |
| 主题： | 理论经济学（econ.TH）；计算机科学与博弈论（cs.GT）；多主体系统（cs.MA） |
| 引用为： | arXiv:2607.25019 [econ.TH] |
| （或 arXiv:2607.25019v2 [econ.TH] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.25019 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Sylvain Chassang [查看电子邮件]
[v1]
2026 年 7 月 27 日星期一 19:28:30 UTC（137 KB）
[v2]
2026 年 10 月 6 日星期二 20:51:09 UTC（210 KB）
来源：arXiv cs.MA · arxiv.org