跳到正文
arXiv cs.CL· Jiatong Li, Changdae Oh, Hyeong Kyu Choi, Jindong Wang, Sharon Li·· 9 小时前AI 评分38

研究揭示用户服务型 LLM 智能体的信息披露出错模式:思考不等于告知

Thinking Is Not Telling: Information Disclosure in User-Service LLM Agents

AI 导读

研究将“信息披霞”定义为可测量的沟通机制,涵盖状态纠正、可选方案、约束条件、后果说明与主动检索的环境信息。在五个模型、三个用户服务场景中,强制思考的效用并不稳定,思考更多也不能可靠转化为更充分的信息披露;回合级反事实干预显示,注入关键决策信息能显著纠正智能体的行动轨迹,失败轨迹最常缺失状态纠正与约束说明,轻量级的披露感知提示词可有效缓解性能退化。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:用户参与的 LLM 智能体越来越多地运行在服务场景中,在这些场景里,任务成功取决于智能体、用户和有状态环境之间的协调。在此类交互中,智能体往往能获取用户观察不到的丰富信息,例如任务策略、工具结果和环境状态。这使得智能体与用户之间的沟通成为任务完成的核心组成部分。在本工作中,我们研究用户服务型智能体的一种沟通层面的失败模式:内部推理对交互式信息披露起反作用。我们将信息披露作为一种可度量的沟通机制引入,涵盖状态纠正、可用选项、约束、后果以及主动检索的环境信息。受 LLM 推理近期进展的启发,我们在配备“think”工具的智能体受控设置下评估和分析信息披露,该工具允许智能体在回应或行动前进行内部推理。在五个模型和三个用户服务场景中,我们首先表明强制思考的效用并不稳定。随后我们分析不同思考强度下的响应扩展,发现更多思考并不能可靠地转化为更丰富的信息披露。通过轮次级反事实干预,我们表明注入黄金决策相关信息能显著干预智能体以纠正行动轨迹,这表明缺失的信息披露可以因果性地影响智能体的即时下游行为。我们进一步发现,失败的轨迹最常缺少状态纠正和约束,而一个轻量级的披露感知提示能有效缓解退化。这些结果表明,关键挑战并非简单地让智能体思考更多,而是确保推理和信息被外化为及时的信息披露。
评论: TMLR
主题: 计算与语言(cs.CL)
引用为: arXiv:2602.07796 [cs.CL]
  (或此版本的 arXiv:2602.07796v3 [cs.CL])
  https://doi.org/10.48550/arXiv.2602.07796

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Jiatong Li [查看邮箱]
[v1] 2026年2月8日周日 03:23:22 UTC(280 KB)
[v2] 2026年8月8日周六 04:34:47 UTC(891 KB)
[v3] 2026年11月17日周二 16:09:19 UTC(906 KB)

来源:arXiv cs.CL · arxiv.org