跳到正文
arXiv cs.CL· Chengfei Wu, Zhaoqing Wu, Dan Goldwasser·· 2 天前AI 评分24

CLUE:挖掘对话中的社会语境以提升语用理解

CLUE: Uncovering Social Context for Pragmatic Understanding

AI 导读

研究提出 CLUE 两阶段训练流程,将监督式证据推理与由 Grounded Information Utilization(IU_G)引导的 GRPO 结合,让模型自行发现对话中的关键线索。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:理解一段对话需要将所说的话与说话者之间的关系、期望以及先前的交流联系起来。先前的研究表明,提供相关上下文可以改善模型的社会判断,但这些信息中的大部分可能已经存在于对话之中。这促使我们训练模型去发现真正重要的线索,并利用它们来支持解读。我们提出 CLUE,一种两阶段训练流程,将监督式证据推理与由 Grounded Information Utilization($\mathrm{IU}_{\mathrm{G}}$)引导的 GRPO 相结合。该奖励机制在考虑推理成本的同时,对新的、有证据支持的社会推断给予奖励。我们在少量对话样本上进行训练,以评估其有效性以及在任务、语言和体裁上的泛化能力。在推理时,训练后的模型以自包含的方式对所给交互进行推理。与基础 Qwen 相比,CLUE 在域内平均加权 F1 上取得 17.3% 的相对提升,在域外取得 9.3% 的相对提升,并在五项域外评估中的四项上取得更高的 F1。这些提升伴随着两个领域中平均推理 token 数减少超过 80%。人工评估进一步发现,CLUE 更常将其解释建立在具体的对话内容之上,其引用的证据与人工选择的上下文之间具有更高的一致性。
主题: 计算与语言(cs.CL)
引用为: arXiv:2610.22167 [cs.CL]
  (或 arXiv:2610.22167v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.22167

arXiv 颁发的 DOI 经由 DataCite(待注册)

提交历史

来自:Chengfei Wu [查看电子邮件]
[v1] 2026年10月15日星期四 16:28:19 UTC(1,561 KB)

来源:arXiv cs.CL · arxiv.org