arXiv cs.CL· Neemesh Yadav, Yihuai Lan, Shan Dong, Mai Hieu Hien, Palakorn Achananuparp, Jing Jiang, Ee-Peng Lim·· 12 小时前AI 评分29
心智理论与亲社会信念如何影响 LLM 在最后通牒博弈中的人类对齐行为
Effects of Theory of Mind and Prosocial Beliefs on Steering Human-Aligned Behaviors of LLMs in Ultimatum Games
AI 导读
研究用最后通牒博弈测试心智理论（ToM）推理能否让 LLM 智能体的行为更贴合人类规范，对 o3-mini、DeepSeek-R1 Distilled Qwen 32B 等多个模型做了 2,700 次模拟。
正文 · AI 翻译
摘要：大型语言模型（LLM）已展现出模拟人类行为和执行心智理论（ToM）推理的潜力，这对于复杂的社会互动至关重要。我们以最后通牒博弈作为参考任务，研究 ToM 推理在谈判任务中使智能体行为与人类规范保持一致的作用。我们为 LLM 智能体初始化了不同的亲社会信念（贪婪、公平、无私）和推理方法（思维链以及不同层级的 ToM 推理），考察了它们在多个 LLM 中的决策过程和结果，包括 o3-mini 和 DeepSeek-R1 Distilled Qwen 32B 等推理模型。我们进行了 2,700 次模拟，结果表明 ToM 推理增强了行为与人类规范的一致性、决策一致性以及谈判结果。与先前发现一致，推理型 LLM 相比 ToM 增强的 LLM 表现出有限的能力，且不同的博弈角色受益于不同的 ToM 阶数。智能体几乎总是选择与其被赋予的信念一致的策略，这样做在几乎每个角色中都更符合人类规范，但贪婪和无私智能体在结果上仍未达到其规范。人工验证进一步表明，Llama 3.3 70B 产生的推理与其行动和信念最为一致。我们的发现推进了对 ToM 在人机交互和合作决策中作用的理解。我们实验所用的代码可在 此 https URL 找到。
| 评论： | 已被 AACL-IJCNLP 2026 接收。v2 修正了 RQ4 分析（第 5.4 节，图 4）；其他结果保持不变 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2505.24255 [cs.CL] |
| （或 arXiv:2505.24255v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2505.24255 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Palakorn Achananuparp [查看电子邮件]
[v1]
2025年5月30日星期五 06:23:52 UTC（3,380 KB）
[v2]
2026年8月24日星期一 03:10:58 UTC（156 KB）
[v3]
2026年10月21日星期三 12:23:50 UTC（155 KB）
来源：arXiv cs.CL · arxiv.org