arXiv cs.MA· Shu Yang, Shenzhe Zhu, Hao Zhu, Jos\'e Ram\'on Enr\'iquez, Di Wang, Alex Pentland, Michiel A. Bakker, Jiaxin Pei·· 10 小时前AI 评分45
多用户大语言模型智能体研究：首次系统评估多主体交互下的指令遵循、隐私与协调能力
Multi-User Large Language Model Agents
AI 导读
研究者首次系统研究多用户 LLM 智能体，将其形式化为多主体决策问题，并提出统一的多用户交互协议与三个压力测试场景。结果显示前沿 LLM 在用户目标冲突时难以维持稳定优先级，多轮交互中隐私违规持续增加，协调需迭代收集信息时出现效率瓶颈。
正文 · AI 翻译
摘要：大型语言模型（LLM）以及基于 LLM 的智能体正越来越多地被部署为规划与决策中的助手，然而现有的大多数系统都隐含地针对单一主体交互范式进行优化，即模型被设计为满足某一个主导用户的目标，该用户的指令被视为权威与效用的唯一来源。然而，随着它们被集成到团队工作流和组织工具中，它们越来越需要同时服务多个用户，每个用户都有不同的角色、偏好和权限级别，从而形成多用户、多主体场景，其中不可避免地存在冲突、信息不对称和隐私约束。在本工作中，我们首次对多用户 LLM 智能体进行了系统研究。我们首先将多用户与 LLM 智能体的交互形式化为一个多主体决策问题，其中单个智能体必须应对多个可能利益冲突的用户及相关挑战。随后，我们引入了一个统一的多用户交互协议，并设计了三个有针对性的压力测试场景，以评估当前 LLM 在指令遵循、隐私保护和协调方面的能力。我们的结果揭示了系统性差距：前沿 LLM 在用户目标冲突时常常无法保持稳定的优先级排序，在多轮交互中表现出越来越多的隐私侵犯，并且在协调需要迭代收集信息时遭遇效率瓶颈。
| 学科： | 计算与语言（cs.CL）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2604.08567 [cs.CL] |
| （或 arXiv:2604.08567v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.08567 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Shenzhe Zhu [查看邮箱]
[v1]
2026年3月19日星期四 19:31:53 UTC（1,228 KB）
[v2]
2026年4月27日星期一 22:45:19 UTC（1,234 KB）
[v3]
2026年11月4日星期三 02:45:59 UTC（1,022 KB）
来源：arXiv cs.MA · arxiv.org