arXiv·· 12 天前AI 评分32
迈向对齐缩放定律:一个框架与首批预注册测量
Toward Alignment Scaling Laws: A Framework and First Preregistered Measurements
AI 导读
研究将对齐视为一族可测量的缩放关系,对每个风险类别 r 建模对齐负担 B_r(N)=a_rN^alpha_r,其中 N 为能力代理指标,并以与 N 成比例的预算判断缩放是否有利。工作给出三种负担的可操作化定义,并区分观测对齐、审计对齐与真实对齐;一个修正消耗能力余量的玩具模型展示了其后果。
来源:arXiv · arxiv.org