arXiv cs.CL· Letian Shi, Kanwal Mehreen, Deheng Zhang, Yuxia Wang·· 11 小时前AI 评分31
研究：共情并非模型事实性与可靠性下降的替罪羊
Empathy Is Not the Scapegoat for Declines in Factuality and Reliability
AI 导读
针对“更温暖的模型可靠性更低”的既有结论，该研究指出其并不完整：过往实验多在共情对话上训练，难以区分语气效应与 SFT 带来的分布偏移。作者从提示词、SFT 和 RL 三种方式诱导温暖行为，用 11 个数据集基准套件和情感语境下的 EMOFACT 评估能力保持情况，发现温暖效应因任务和模型而异，任务对齐的自适应语气可同时提升共情与特定可靠性，但仍存在部分能力权衡。研究还提出经人工验证的共情评估器。
正文 · AI 翻译
摘要：语言模型日益被期望在压力或不确定的情境中为用户提供支持，此时温暖与共情是可取的。尽管近期研究将更温暖的模型与可靠性降低联系起来，但我们表明这一结论并不完整。先前的研究通常主要基于共情对话进行训练，这使得难以将语气效应与 SFT 引起的分布偏移区分开来。我们从模型和评估两个层面重新审视这一问题。我们研究了提示、SFT 和 RL 在诱导温暖行为方面的作用，并使用包含 11 个数据集的基准套件以及情感情境下的 EMOFACT 全面评估能力保持情况。在多个模型系列中，我们发现温暖效应因任务和模型而异，而与任务对齐的自适应语气可以提升共情和针对性可靠性，尽管仍存在一些能力权衡。我们进一步引入了经人工验证的共情评估器，专门用于评估共情式模型回复。我们的结果表明，模型可以在社交互动中提供更多支持，同时保持可靠性。
| 评论： | 已被 AACL 2026 接收 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.18541 [cs.CL] |
| （或 arXiv:2610.18541v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18541 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Letian Shi [查看邮箱]
[v1]
2026年10月13日 星期二 15:20:46 UTC（160 KB）
[v2]
2026年11月2日 星期一 14:33:43 UTC（152 KB）
来源：arXiv cs.CL · arxiv.org