arXiv cs.AI· Moonwon Choi, Kisung Nam, Seunggeun Lee·· 1 天前AI 评分31
PACE:用重复人工评分预测局部代理优化下的人类收益曲线
Predicting Human-Gain Curves under Local Proxy Optimization from Repeated Ratings
AI 导读
研究者提出 PACE(Proxy Alignment and Curvature Expansion),一种优化前诊断方法,利用重复人工评分预测固定代理目标带来的人类感知收益曲线,将局部收益近似为 A√d+Bd。
正文 · AI 翻译
摘要:优化代理目标可以提升人类感知质量,但由此获得的增益会随优化强度而变化。仅凭代理与人类评分的平均相关性,无法揭示人类感知质量如何随优化强度增加而变化。我们提出 PACE(Proxy Alignment and Curvature Expansion,代理对齐与曲率展开),这是一种预优化诊断方法,利用重复的人类评分来预测固定代理所诱导的人类增益曲线。该方法将代理优化建模为 KL 正则化的指数倾斜。在 KL 半径 $d$ 处,局部增益近似为 $A\sqrt{d}+Bd$,其中 $A$ 衡量一阶代理-人类对齐,$B$ 刻画沿代理优化路径的主导二阶修正。我们根据校准条目上的重复人类评分估计 $A$ 和 $B$,并在留出评估条目上检验所得的增益曲线预测。在 SummEval、符合分析条件的 WMT MQM 聚类、OpenMEVA-MAGS ROC/WP 重复评分切片以及 GPT-4o 评判代理实验中,PACE 相对于仅 $A$、零增益和仅可靠性基线,一致地降低了留出增益预测误差。在相同的预池化信息下,它与灵活的代理条件校准具有竞争力,而 LoRA-DPO 实验为实际优化提供了适度的衔接。跨数据集和评估切片的迁移实验表明,源系数是有用的先验,但目标校准能进一步改善预测。所得诊断是局部且单侧的:它刻画固定条目池正倾斜分支上的温和优化。
| 评论: | 正文 10 页,含参考文献和补充材料共 65 页。被 NeurIPS 2026 接收为 Spotlight。代码:此 https URL |
| 主题: | 人工智能(cs.AI) |
| ACM 分类: | I.2.6; I.2.7; G.3 |
| 引用为: | arXiv:2610.41114 [cs.AI] |
| (或 arXiv:2610.41114v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.41114 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Moonwon Choi [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 01:16:57 UTC(835 KB)
来源:arXiv cs.AI · arxiv.org