arXiv cs.CL· Alan Zhu, Mihran Miroyan, Carolyn Wang, Andrew Zhou, Lisa Dunlap, Narges Norouzi, Joseph E. Gonzalez·· 11 小时前AI 评分26
Recon:用动作重建引导推理合成,提升用户建模效果
Recon: Reconstruction-Guided Reasoning Synthesis for User Modeling
AI 导读
研究提出 Recon,通过动作重建为推理轨迹打分——给定上下文和候选推理,由重建模型预测动作,以重建保真度衡量推理质量。在四个领域上,Recon 相对 Backward Synthesis 这一事后合理化基线取得 54.7% 胜率;用 Recon 奖励训练推理合成模型后,下游用户建模胜率最高达 70.0%。Recon 合成的推理还可跨模型迁移,并超越重建模型本身。
正文 · AI 翻译
摘要:用户建模旨在利用语言模型(LM)从过去的上下文-动作对(例如对话轮次)语料中模仿个体的行为,从而在行为科学、人机协作和市场研究等场景中实现用户模拟。近期的方法通过合成推理轨迹来扩充这些语料,这些轨迹通常以同时以上下文和动作为条件生成。然而,以动作为条件的轨迹是事后合理化,未必反映用户潜在的决策过程。我们提出 Recon,它利用动作重建来根据预测能力对推理轨迹进行评分:给定上下文和候选推理,重建模型预测动作,重建保真度决定推理质量。在四个领域中,Recon 相对于 Backward Synthesis(一种标准的事后合理化基线)取得了 54.7% 的胜率。此外,我们发现用源自 Recon 的奖励训练推理合成模型可提升下游用户建模性能,相对于基线取得高达 70.0% 的胜率。我们进一步表明,Recon 合成的推理可跨模型迁移,并且超越重建模型提升用户建模效果。我们的工作表明,事后合理化不足以用于推理合成,而有用且可解释的推理应当能够从上下文中自然地引出动作。
| 学科: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2605.26969 [cs.CL] |
| (或 arXiv:2605.26969v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2605.26969 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Mihran Miroyan [查看电子邮件]
[v1]
2026年5月26日星期二 12:55:11 UTC(1,229 KB)
[v2]
2026年11月3日星期二 20:43:45 UTC(1,146 KB)
来源:arXiv cs.CL · arxiv.org