arXiv cs.CL· Junru Wu, Jingting Zheng, Yuqi Ren, Deyi Xiong·· 2 天前AI 评分26
VALCON：通过双角色变化评测并提升大语言模型的价值观一致性
VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation
AI 导读
研究者提出 VALCON，一个角色驱动的数据构建框架，通过双角色变化将价值观一致性拆解为 VAB-Consistency、VAB-Boundary、VAB-Challenge 三套基准。对 28 个 LLM 的实验显示普遍存在跨角色不一致：输出高度合规的模型常无法让自己的评判与自身生成对齐。机制探测发现与这种不对称相关的角色依赖表征解耦，据此提出的表征引导干预可有效缓解一致性失败。
正文 · AI 翻译
摘要：当前针对大型语言模型（LLM）的价值对齐评估严重依赖输出合规性，忽视了 LLM 在生成者与评估者角色之间交替时是否保持价值一致性。这种一致性日益重要，因为现代 LLM 智能体和对齐流程往往依赖同一个 LLM 既生成动作又评估其可接受性。为缓解这一局限，我们提出 VALCON，一个角色驱动的数据构建框架，通过双角色变化将价值一致性操作化为三个基准套件（VAB-Consistency、VAB-Boundary、VAB-Challenge）。通过在相同原则下系统性地将 LLM 的生成行为与其评估判断配对，VALCON 合成目标评估数据，从而暴露隐藏的价值差异。在 28 个 LLM 上的实验揭示了普遍存在的跨角色不一致性：输出高度合规的模型往往无法使其判断与自身生成保持一致。为理解并解决这一差距，我们进行了机制探测，发现了一种与这种行为不对称相关的角色依赖表征解耦。在这些见解的指导下，我们提出了一种表征导向的干预方法，有效缓解了一致性失败。我们的工作将价值一致性确立为一个独特的对齐维度，并提供了完整的评估-分析-缓解流程。代码和数据可在 此 https URL 获取。
| 评论： | 24 页，16 张图。被计算语言学协会会刊：EMNLP 2026 Findings 接收。代码和数据：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.21304 [cs.CL] |
| （或 arXiv:2610.21304v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21304 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Junru Wu [查看邮箱]
[v1]
2026 年 10 月 15 日星期四 05:52:52 UTC（2,157 KB）
来源：arXiv cs.CL · arxiv.org