arXiv cs.CL· Jiatong Li, Changdae Oh, Hyeong Kyu Choi, Jindong Wang, Sharon Li·· 9 小时前AI 评分38
研究揭示用户服务型 LLM 智能体的信息披露出错模式:思考不等于告知
Thinking Is Not Telling: Information Disclosure in User-Service LLM Agents
AI 导读
研究将“信息披霞”定义为可测量的沟通机制,涵盖状态纠正、可选方案、约束条件、后果说明与主动检索的环境信息。在五个模型、三个用户服务场景中,强制思考的效用并不稳定,思考更多也不能可靠转化为更充分的信息披露;回合级反事实干预显示,注入关键决策信息能显著纠正智能体的行动轨迹,失败轨迹最常缺失状态纠正与约束说明,轻量级的披露感知提示词可有效缓解性能退化。
正文 · AI 翻译
摘要:用户参与的 LLM 智能体越来越多地运行在服务场景中,在这些场景里,任务成功取决于智能体、用户和有状态环境之间的协调。在此类交互中,智能体往往能获取用户观察不到的丰富信息,例如任务策略、工具结果和环境状态。这使得智能体与用户之间的沟通成为任务完成的核心组成部分。在本工作中,我们研究用户服务型智能体的一种沟通层面的失败模式:内部推理对交互式信息披露起反作用。我们将信息披露作为一种可度量的沟通机制引入,涵盖状态纠正、可用选项、约束、后果以及主动检索的环境信息。受 LLM 推理近期进展的启发,我们在配备“think”工具的智能体受控设置下评估和分析信息披露,该工具允许智能体在回应或行动前进行内部推理。在五个模型和三个用户服务场景中,我们首先表明强制思考的效用并不稳定。随后我们分析不同思考强度下的响应扩展,发现更多思考并不能可靠地转化为更丰富的信息披露。通过轮次级反事实干预,我们表明注入黄金决策相关信息能显著干预智能体以纠正行动轨迹,这表明缺失的信息披露可以因果性地影响智能体的即时下游行为。我们进一步发现,失败的轨迹最常缺少状态纠正和约束,而一个轻量级的披露感知提示能有效缓解退化。这些结果表明,关键挑战并非简单地让智能体思考更多,而是确保推理和信息被外化为及时的信息披露。
| 评论: | TMLR |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2602.07796 [cs.CL] |
| (或此版本的 arXiv:2602.07796v3 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2602.07796 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jiatong Li [查看邮箱]
[v1]
2026年2月8日周日 03:23:22 UTC(280 KB)
[v2]
2026年8月8日周六 04:34:47 UTC(891 KB)
[v3]
2026年11月17日周二 16:09:19 UTC(906 KB)
来源:arXiv cs.CL · arxiv.org