跳到正文
arXiv cs.CL· Baiqiao Zhang, Shuai Ma, Zhifeng Liao, Chao Zhou, Jianshu Wang, Yuhan Zhao, Chaoyue Zhang, Tongjun Si, Yuying Tang, Xiangxian Li, Yong-Jin Liu, Yulong Bian·· 12 小时前AI 评分29

言语还是行动?LLM 如何预测人机对话中用户的决策

Words or Deeds? How LLMs Predict Users' Decisions in Human-Agent Dialogue

AI 导读

研究用 42 名用户与五个智能体进行的 1,260 轮重复囚徒困境博弈测试八个开源权重 LLM,发现仅凭决策记录预测合作与背叛的 AUC 达 .80,加入对话未带来可检测提升。

正文 · AI 翻译

作者:Baiqiao Zhang、Shuai Ma、Zhifeng Liao、Chao Zhou、Jianshu Wang、Yuhan Zhao、Chaoyue Zhang、Tongjun Si、Yuying Tang、Xiangxian Li、Yong-Jin Liu、Yulong Bian

查看 PDF HTML(实验性)

摘要:Web 系统越来越多地根据用户所说的话来预测用户的决策,然而当利益部分冲突时,用户可能会承诺合作以换取对方的合作,随后却不履行。依赖此类承诺的销售或服务代理可能会向用户做出让步,而用户随后并不兑现承诺,从而给代理所代表的一方带来损失。我们使用 1,260 轮实验来测试 LLM 如何结合用户的陈述与决策记录来预测用户的决策;在实验中,42 名用户与五个代理玩重复囚徒困境式游戏,每个代理被提示表现出一种占主导地位的大五人格特质,并且用户可以在每次决策前与代理交谈。在八个开放权重 LLM 上,基于决策记录的预测能很好地区分合作与背叛(AUC = .80),而加入对话并未带来可检测的提升。加入对话后,预测与用户陈述的一致频率更高,且错误集中在用户违背其陈述的轮次:在有陈述的轮次上准确率几乎不变(.73 到 .74),而在被遵守的陈述上准确率上升(.76 到 .95),在被违背的陈述上则急剧下降(.65 到 .17)。预测对陈述的权重高于用户行为所应得的权重:当用户陈述了一个其在该游戏中尚未做出的决策时,预测其会遵守该决策的概率从 .13 升至 .69,而用户实际遵守了 .40 的此类陈述。用户的决策也随其所面对的代理而变化,但预测几乎未反映这一点:用户对 Agreeableness 代理的合作率高于对 Extraversion 代理(70.6% 对 54.5%),而预测的合作率几乎相同(64.5% 对 63.1%)。当用户自身在该代理特质上的得分更高时,他们对代理的合作也更多,而预测的合作率随这些得分几乎不变。因此,基于对话的预测应根据用户先前的决策及其所面对的代理来权衡用户的陈述。
主题: 计算与语言(cs.CL);人机交互(cs.HC)
引用为: arXiv:2610.36813 [cs.CL]
  (或 arXiv:2610.36813v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36813

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Baiqiao Zhang [查看邮箱]
[v1] 2026年10月27日 星期二 08:14:55 UTC(1,047 KB)

来源:arXiv cs.CL · arxiv.org