跳到正文
arXiv cs.AI· Moonwon Choi, Kisung Nam, Seunggeun Lee·· 1 天前AI 评分31

PACE:用重复人工评分预测局部代理优化下的人类收益曲线

Predicting Human-Gain Curves under Local Proxy Optimization from Repeated Ratings

AI 导读

研究者提出 PACE(Proxy Alignment and Curvature Expansion),一种优化前诊断方法,利用重复人工评分预测固定代理目标带来的人类感知收益曲线,将局部收益近似为 A√d+Bd。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:优化代理目标可以提升人类感知质量,但由此获得的增益会随优化强度而变化。仅凭代理与人类评分的平均相关性,无法揭示人类感知质量如何随优化强度增加而变化。我们提出 PACE(Proxy Alignment and Curvature Expansion,代理对齐与曲率展开),这是一种预优化诊断方法,利用重复的人类评分来预测固定代理所诱导的人类增益曲线。该方法将代理优化建模为 KL 正则化的指数倾斜。在 KL 半径 $d$ 处,局部增益近似为 $A\sqrt{d}+Bd$,其中 $A$ 衡量一阶代理-人类对齐,$B$ 刻画沿代理优化路径的主导二阶修正。我们根据校准条目上的重复人类评分估计 $A$ 和 $B$,并在留出评估条目上检验所得的增益曲线预测。在 SummEval、符合分析条件的 WMT MQM 聚类、OpenMEVA-MAGS ROC/WP 重复评分切片以及 GPT-4o 评判代理实验中,PACE 相对于仅 $A$、零增益和仅可靠性基线,一致地降低了留出增益预测误差。在相同的预池化信息下,它与灵活的代理条件校准具有竞争力,而 LoRA-DPO 实验为实际优化提供了适度的衔接。跨数据集和评估切片的迁移实验表明,源系数是有用的先验,但目标校准能进一步改善预测。所得诊断是局部且单侧的:它刻画固定条目池正倾斜分支上的温和优化。
评论: 正文 10 页,含参考文献和补充材料共 65 页。被 NeurIPS 2026 接收为 Spotlight。代码:此 https URL
主题: 人工智能(cs.AI)
ACM 分类: I.2.6; I.2.7; G.3
引用为: arXiv:2610.41114 [cs.AI]
  (或 arXiv:2610.41114v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.41114

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Moonwon Choi [查看电子邮件]
[v1] 2026 年 10 月 30 日星期五 01:16:57 UTC(835 KB)

来源:arXiv cs.AI · arxiv.org