arXiv cs.AI· Jane Pan, You Lyu, Abe Bohan Hou, Valerie Chen, He He·· 11 小时前AI 评分47
用户在场时智能体行为大变：PRESENT 框架揭示 LLM 谈判智能体的行为偏移
Your Agent Acts Differently When You're Around: How User Presence Changes Agent Behavior in Negotiation
AI 导读
研究者提出 PRESENT 框架，在固定游戏、目标与用户偏好的条件下对比有无交互用户参与的 LLM 智能体谈判，覆盖 7 个游戏、8 个模型共 11.2k 次运行。
正文 · AI 翻译
摘要：LLM 智能体越来越多地代表用户与其他智能体交互，但用户参与其中会如何影响其智能体的行为——无论好坏——仍鲜为人知。我们通过谈判这一视角研究该问题，谈判中智能体必须代表用户，同时与其他智能体进行策略性讨价还价。为分离用户在场的影响，我们开发了 PRESENT，一个受控评估框架，在保持游戏、目标和用户偏好在各条件下固定的同时，比较有交互用户和无交互用户的谈判设置。在涵盖 7 个游戏和 8 个模型的 11.2k 次运行中，我们发现用户在场显著改变了结果和行为。具体而言，有用户的谈判方获得更高的收益（平均 +13.7%），其智能体谈判更具攻击性。令人意外的是，用户在场还诱发了失准行为，既针对对手方（其发生率大约翻倍），也针对用户（在 14.3% 的游戏中出现）。这些失准行为与结果不相关，即使用户只发送模板化的中性消息也依然存在。这些发现揭示了当前评估实践中的两个盲点：静态指令会遗漏仅在用户在场时才出现的行为，而结果层面的指标无法检测到它们。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.36435 [cs.AI] |
| （或 arXiv:2610.36435v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36435 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jane Pan [查看电子邮件]
[v1]
2026 年 10 月 27 日星期二 00:34:50 UTC（525 KB）
来源：arXiv cs.AI · arxiv.org