arXiv cs.AI· Sepehr Ilami, Babak Heydari·· 1 天前AI 评分20
通过信息网络引导多智能体 LLM 系统的涌现行为
Steering Emergent Behavior in Multi-Agent LLM Systems via Information Networks
AI 导读
一项被作者撤回的预印本研究让 10 个相同 LLM 智能体在 1,080 个回合、6 类博弈中重复决策,把"谁观察谁"的信息网络作为独立设计对象。结果显示信息价值取决于对齐程度:同伴信息在个体行为与集体目标一致时有帮助,但在搭便车或拥堵外部性下会放大有害行为,公共品博弈中完全不共享信息反而最优。固定预算下,"杠铃式"模块化连接最差,与人类演化博弈论的网络互惠直觉相反。
正文 · AI 翻译
本文已被 Sepehr Ilami 撤回
摘要:大型语言模型(LLM)智能体越来越多地以群体形式运行,每个智能体追求各自的目标,同时共同决定系统性能。如果运营者能够控制哪个智能体观察哪个其他智能体,但无法控制它们的收益或消息,那么应如何组织观察结构以提升集体福利?我们将信息网络(谁观察谁)作为设计对象,使其与智能体行动所依赖的固定交互网络解耦。十个相同的 LLM 智能体参与重复的群体决策博弈;默认情况下,每个智能体只能观察到群体上一轮结果的匿名摘要,而拥有固定预算的管理者会添加有向观察链接,以揭示同伴的过往行动。在涵盖协调、反协调、社会困境和发现问题的 1,080 个回合和六种博弈中,我们研究了应共享多少信息,以及在固定预算下谁应观察谁。信息披露会产生行为耦合:观察充当传染渠道,其福利效应取决于个体有吸引力的行为与集体目标之间的一致性。第一,信息的价值取决于一致性:当个体行为与集体目标一致时,更多同伴信息往往有帮助或保持中性,但在搭便车或拥堵外部性下,它会放大对集体有害的行为;在公共物品博弈中,群体在完全没有信息时表现最佳。我们将这种符号分离解读为同一受控 LLM 群体内的跨博弈规律,而非模型无关的定律。第二,在固定预算下,谁观察谁主要在耦合有害时才重要:一种模块化的“杠铃”结构会让子群体固化有害行为,可靠地成为最差的连接方式,这颠覆了人类演化博弈论中的网络互惠直觉。这些结果反对将完全透明作为智能体集体的默认设置。
| 评论: | 该文为初步版本,尚不适合公开发布 |
| 主题: | 多智能体系统(cs.MA);人工智能(cs.AI);计算机科学与博弈论(cs.GT);社会与信息网络(cs.SI) |
| ACM 分类: | I.2.11 |
| 引用为: | arXiv:2611.11714 [cs.MA] |
| (或 arXiv:2611.11714v2 [cs.MA] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2611.11714 由 DataCite 颁发的 arXiv DOI |
提交历史
发件人:Sepehr Ilami [查看邮箱]
[v1]
2026年11月9日星期一 00:18:26 UTC(277 KB)
[v2]
2026年11月10日星期二 22:49:42 UTC(1 KB) (已撤回)
来源:arXiv cs.AI · arxiv.org