arXiv cs.MA· Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein·· 11 小时前AI 评分34
LLM 智能体在重复多方谈判中的信任—协议差距
Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation
AI 导读
研究提出重复多方多议题 LLM 谈判框架，让智能体在每轮博弈后维护成对信任估计并带入后续谈判。结果显示存在“信任—协议差距”：信任感知型智能体能在几轮内识别出暗中阻挠协议的对手，但准确信任估计并不总能带来更好的协议。只有当智能体被明确引导在决策中使用信任时，协议率才最多提升 23 个百分点。
正文 · AI 翻译
摘要：大型语言模型（LLM）智能体越来越多地代表个人和组织参与谈判，但它们仍然容易受到操纵，尤其是在重复的多方交互中。经典多智能体系统通过显式的信任与声誉模型来应对这一挑战，而现有关于 LLM 谈判的研究大多将信任视为一种涌现现象。我们研究 LLM 智能体能否从先前的交互中形成有用的信任估计，并利用这些估计来改善未来的谈判结果。我们引入了一个重复的、多方的、多议题谈判框架，其中反复出现的智能体参与一系列谈判博弈，同时其中一名参与者暗中试图阻止达成协议。每场博弈结束后，智能体评估其对手，并维护可延续到后续谈判的成对信任估计。我们比较了信任感知型与信任无关型智能体，并分析了显式信任如何影响谈判结果。我们的结果揭示了一个 \emph{信任—协议差距}：信任感知型智能体能在几场博弈内识别出对手，但准确的信任估计并不能始终转化为更好的协议。信任可将协议达成率提高最多 23 个百分点，但前提是智能体被明确引导在决策中使用信任。因此，显式信任可以改善重复的 LLM 谈判，但其价值关键取决于信任如何被评估并纳入智能体的推理过程。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.31971 [cs.AI] |
| （或 arXiv:2610.31971v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.31971 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Amit Sarker [查看邮箱]
[v1]
2026年10月22日 星期四 22:24:10 UTC（698 KB）
来源：arXiv cs.MA · arxiv.org