跳到正文
arXiv cs.CL· Yue Leng, Shengtao Wen, Xiang Chen, Xinyi Zeng, Yu Tian, Sheng-Jun Huang·· 10 小时前AI 评分26

CREDO:面向时序推理智能体的证据条件化信用分配方法

CREDO: Evidence-Conditioned Credit Assignment for Temporal Reasoning Agents

AI 导读

CREDO 通过中间证据恢复局部监督信号,解决 GRPO 轨迹级奖励无法区分中间决策质量的问题,在全部失败组中也能重新分配信用。在 MultiTQ 上,CREDO 将 Overall 准确率从 78.0% 提升至 82.4%,Multiple 准确率从 55.0% 提升至 65.6%;在 TimelineKGQA 上,跨 KG 准确率从 30.9% 提升至 36.4%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:时序知识图谱问答(TKGQA)要求语言模型智能体检索证据、选择相关事实并执行多步时序推理。然而,GRPO 中的轨迹级结果信号并未明确区分中间决策的质量:下游失败可能会惩罚有用的证据获取,而在全部失败的组中,尽管中间进展存在差异,相同的奖励却消除了相对结果信号。我们提出证据驱动机会的信用再分配(CREDO),它利用中间证据恢复局部监督(包括在全部失败的组中),并确定结果监督在何处起作用。CREDO 通过同一问题的多次 rollout 之间的比较来分配正向阶段级信用,并使用保留的答案重叠作为机会代理,将部分结果策略权重转移到推理和回答上。该框架保留终端奖励和轨迹级优势,而再分配则保持每条轨迹的结果策略总权重不变。遵循先前工作的公开评估协议,与我们比较中最强的已发表基线相比,CREDO 在 MultiTQ 上将 Overall 准确率从 78.0% 提升至 82.4%,将 Multiple 准确率从 55.0% 提升至 65.6%。在 TimelineKGQA 上,在匹配的训练和评估设置下,通过直接迁移到 ICEWS Actor,它相对于我们复现的基线将跨 KG 准确率从 30.9% 提升至 36.4%。
评论: 代码可在 此 https URL 获取
主题: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL);信息检索(cs.IR)
引用为: arXiv:2611.01643 [cs.LG]
  (或 arXiv:2611.01643v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.01643

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Shengtao Wen [查看电子邮件]
[v1] 2026年11月1日星期日 06:46:51 UTC(733 KB)

来源:arXiv cs.CL · arxiv.org