arXiv cs.CL· Shuhaib Mehri, Philippe Laban, Michel Galley, Dilek T\"ur, Jennifer Neville, Jianfeng Gao·· 11 小时前AI 评分34
用用户表征提升模拟保真度：UserRepGen-4B 通过事后蒸馏生成用户表征
Learning User Representations to Improve Simulation Fidelity
AI 导读
研究提出用自然语言用户表征条件化用户模拟器，并设计对话重建任务来评估表征质量，同时引入事后蒸馏（hindsight distillation）在线训练表征生成器。由此训练的 UserRepGen-4B 在 700 段对话、7 个数据集上生成的表征，使模拟保真度超过 GPT-5.5 生成的表征。学习到的表征还能提升未见任务的模拟保真度、更好保留真实用户的人群多样性，并更有效区分不同对话中的用户。
正文 · AI 翻译
摘要：用户模拟器使 AI 助手能够大规模地进行交互式训练和评估。然而，当前的模拟器难以复现真实用户的多样行为，导致助手对代表性不足的用户的泛化能力较差。我们指出用户表示是用户模拟中一个尚未充分探索的瓶颈。用户表示是自然语言描述，用于对模拟器进行条件化，使其复现特定用户的行为。表示的质量只有在事后通过其在模拟器中诱导出的行为才能显现。为了评估和优化用户表示，我们构建了一个对话重建任务：给定一段原始对话，我们生成一个表示，以该表示对模拟器进行条件化，模拟一段对话，然后通过比较原始对话和模拟对话中的用户行为来衡量保真度。这种比较还会产生事后反馈，指出表示在哪些方面存在不足以及如何改进。我们提出了事后蒸馏，一种在线训练过程，它将基于反馈条件化的改进蒸馏到表示生成器中，使其能够直接从原始对话生成改进后的表示。我们提出了 UserRepGen-4B，一个通过事后蒸馏训练的表示生成器。在涵盖七个数据集的 700 段对话中，事后反馈有助于在测试时改进用户表示，并且 UserRepGen-4B 生成的表示能够实现比 GPT-5.5 生成的表示更忠实的模拟。除了对话重建之外，学习到的表示还能提高对未见任务的模拟保真度，更好地保持真实用户的人群层面多样性，并更好地区分不同对话中的用户。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.22518 [cs.CL] |
| （或 arXiv:2610.22518v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22518 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shuhaib Mehri [查看电子邮件]
[v1]
2026年10月15日星期四 18:13:21 UTC（596 KB）
来源：arXiv cs.CL · arxiv.org