arXiv cs.AI· Pengyu Huang, Zhiyuan Han, Wenwen Tong, Hewei Guo, Jiangnan Chen, Sirui Chen, Lewei Lu, Beier Zhu, Xun Yang·· 10 小时前AI 评分31
CARE:面向共情强化学习的上下文自适应评分标准演化方法
Evolving Support Priorities in Empathetic Reinforcement Learning
AI 导读
针对共情强化学习中支持优先级随对话状态演变、而现有方法使用固定奖励规格的错配问题,研究者提出 Context-Adaptive Rubric Evolution(CARE),每轮动态调整认知、情感、主动共情三维权重及细粒度评估标准,作为在线共情 RL 的自适应奖励接口。
正文 · AI 翻译
摘要:我们发现了共情强化学习中的一个根本性不匹配:支持优先级会随对话状态演变,而现有方法通常优化的是预定义、在各轮次间保持固定的奖励规范。为了对这些不断演变的支持优先级进行建模,我们将共情支持组织为认知共情、情感共情和主动共情,并提出上下文自适应评分标准演化(CARE)。在每一轮中,CARE 通过调整这三个共情维度的权重及其细粒度评估标准,生成上下文自适应的评分标准。评分标准生成器通过轮级评分标准监督和人类偏好数据,经监督微调后再进行基于偏好的强化学习训练,随后作为在线共情强化学习的自适应奖励接口。CARE 与 RLVER 和 MICA 集成后,在三位独立 LLM 评审下,于 SentientBench、EQBench3 和 EMPA 上均取得最先进性能。值得注意的是,在 EMPA 上,CARE 在三位评审下均将 EPM-Idx 较最强基线提升至少 13 分,其中在 Gemini-2.5-Pro 下从 28.11 提升至 83.54。进一步分析表明,学习到的评分标准优先级会随对话阶段和用户情绪系统性变化,表明 CARE 会随着支持需求演变而调整被奖励的内容。代码见 this https URL。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2609.34249 [cs.AI] |
| (或本版本的 arXiv:2609.34249v3 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2609.34249 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Pengyu Huang [查看邮箱]
[v1]
2026年9月28日星期一 03:55:21 UTC(3,598 KB)
[v2]
2026年10月14日星期三 02:44:40 UTC(3,598 KB)
[v3]
2026年11月4日星期三 10:29:50 UTC(4,467 KB)
来源:arXiv cs.AI · arxiv.org