arXiv cs.AI· Hanbo Xie, Yue Zhao, Robert C. Wilson·· 3 天前AI 评分31
超越成功对弈：诊断大语言模型中的对手建模能力
Beyond Successful Play: Diagnosing Opponent Modeling in Large Language Models
AI 导读
研究者提出一个针对重复捉迷藏博弈的基准与诊断框架，用具有明确递归信念更新的算法对手，通过实时交互、固定历史评估和受控信息干预区分自适应对弈、动作预测与信念追踪。在 Qwen2.5-7B-Instruct 上，告知对手类型与参数设置可提升预测，但需从历史推断对手时准确率下降；GPT-5.4 同样受益于正确对手信念，而显式信念报告与自生成记忆未能稳定改善预测。
正文 · AI 翻译
摘要：语言模型智能体被期望能够适应那些在交互中行为发生变化的其他智能体。然而，这种适应可能依赖于习得的行为模式，而非心理理论（ToM）：即推断他人心理状态（包括信念和意图）的能力。我们引入了一个基准和诊断框架，用于与具有明确定义的递归信念更新的算法对手进行重复的捉迷藏游戏。它们的真实信念和动作概率使我们能够通过实时交互、固定历史评估和受控信息干预来区分适应性游戏、动作预测和信念追踪。通过结构化引导和行为监督微调（SFT），我们发现在若干测试设置中游戏表现有所提升，但诊断结果揭示了在对手预测和信念追踪方面的局限性。我们测试了监督对手动作概率能否解决 Qwen2.5-7B-Instruct 中的这一预测缺陷。当模型被告知对手的类型和参数设置时，预测会改善，但当它必须在没有这些信息的情况下从历史中推断对手时，预测会变得不那么准确。在同样省略这些细节的示例上进行训练可以缩小差距，尽管改进因对手而异。这一局限性是小型开放权重模型特有的，还是也出现在前沿模型中？GPT-5.4 也能从正确的对手信念中受益：提供这些信念会改善其预测和选择，而更深入的显式信念报告和自生成记忆并不能持续改善从交互历史中进行的预测。这种对比表明，使用有用的信念信息比自主推断信念更容易，即使对于前沿模型也是如此。总之，我们的发现将改进的游戏表现和动作预测与可靠的信念追踪区分开来，为评估心智化和测试有针对性的改进提供了一个框架。
| 主题： | 人工智能（cs.AI）；神经元与认知（q-bio.NC） |
| 引用为： | arXiv:2610.17310 [cs.AI] |
| （或 arXiv:2610.17310v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17310 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hanbo Xie [查看电子邮件]
[v1]
2026年10月12日星期一 19:08:43 UTC（4,098 KB）
来源：arXiv cs.AI · arxiv.org