跳到正文
arXiv cs.AI· Chaipat Tirapongprasert, Rajarshi Das, Parijat Dube·· 10 小时前AI 评分30

研究 LLM 推理轨迹中的表征:面向迭代博弈的机制可解释性分析

Tracking Representations in LLM Reasoning Traces for Iterated Games

AI 导读

研究用机制可解释性技术分析 LLM 智能体在不完全信息迭代博弈中的决策过程,发现模型会在 CoT 中形成并反复修正对博弈的内部表征,一旦过早固守错误信念便很难恢复,这一失败同时体现在推理轨迹文本和层激活中。该工作为多智能体系统战略推理错误的诊断提供了新路径,已被 SoCalNLP 2026 接收。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)智能体通过思维链(CoT)推理在各领域取得了最先进的性能。尽管其被广泛使用,但人们对这种外化轨迹与模型实际计算之间的关系知之甚少。我们通过研究 LLM 智能体在不完全信息迭代博弈中如何做出决策来探讨这一问题。借助一系列机制可解释性技术,我们发现模型在整个 CoT 过程中形成并迭代修正对博弈的内部表征。一旦模型过早地固守错误信念,它便很少能恢复。这种失败在字面轨迹和层激活中均有体现。最终,随着多智能体系统日益普遍,我们的工作为更有针对性地诊断其策略推理错误开辟了道路。为便于说明,我们在部分样本轨迹上提供了方法的交互式可视化工具,见 此 https URL
评论: 已被 SoCalNLP 2026 接收。15 页,11 幅图
主题: 计算与语言(cs.CL);人工智能(cs.AI);计算机科学与博弈论(cs.GT)
引用为: arXiv:2611.23403 [cs.CL]
  (或 arXiv:2611.23403v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23403

arXiv 颁发的 DOI 经由 DataCite(待注册)

提交历史

来自:Chaipat Tirapongprasert [查看电子邮件]
[v1] 2026 年 11 月 17 日星期二 19:03:18 UTC(676 KB)

来源:arXiv cs.AI · arxiv.org