arXiv cs.AI· Elinor Poole-Dayan, Jillian Fisher, Jacob Andreas, Mitchell Gordon, Michiel A. Bakker·· 10 小时前AI 评分27
多元价值对齐研究影响力路线图：前沿实验室与开源模型开发者尚无公开采用证据
A Roadmap to Impactful Pluralistic Alignment Research
AI 导读
一项对主要前沿实验室和开源权重开发者的审计发现，多元价值对齐（让 AI 系统代表并服务多元人类价值与视角）尚无公开证据影响其模型训练或评估。作者提出三大障碍并给出研究路线图：现有论证多为规范性或理论性，需测量其对用户与社会的利弊；社区尚未明确多元行为何时必要及具体形态；现有评估与方法未达生产部署要求。
正文 · AI 翻译
摘要：关于负责任 AI 的大量研究旨在改变数十亿人使用的 AI 系统的行为。多元价值对齐——即构建能够代表并服务多元人类价值与视角的 AI 系统这一目标——已成为这样一个活跃的研究议程。然而，在对主要前沿实验室和开放权重开发者的审计中，我们发现没有公开证据表明它影响了这些模型训练或评估的方式。多元对齐需要被采用才能实现其主要目标，因此我们识别出三个障碍，并制定了应对每个障碍的研究路线图：1. 迄今为止，多元对齐的理由大多是规范性的或理论性的。需要开展研究来衡量多元 AI 对用户和社会的益处与弊端。2. 多元对齐研究社区尚未就何时需要多元行为或在实践中它应是什么样子达成共识。需要开展研究，将这种行为具体化到开发者能够操作的程度。3. 现有的多元主义评估和方法尚未准备好部署。需要能够报告其对其他模型属性影响并满足生产系统要求的评估和方法。这些障碍并非多元对齐所独有，因此我们的路线图适用于其他具有类似变革理论的负责任 AI 研究领域。随着人们将更多决策交给 AI 系统，且 AI 智能体代表他们行事，我们希望我们的路线图能帮助这项研究触达做出这些决策的已部署模型。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2607.22305 [cs.AI] |
| （或 arXiv:2607.22305v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.22305 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Elinor Poole-Dayan [查看邮箱]
[v1]
2026年7月24日星期五 13:46:03 UTC（254 KB）
[v2]
2026年11月3日星期二 18:03:31 UTC（1,492 KB）
来源：arXiv cs.AI · arxiv.org