arXiv cs.AI· Daniel Halpern, Evi Micha, Ariel D. Procaccia, Benjamin Schiffer, Itai Shapira, Shirley Zhang·· 2 天前AI 评分26
从社会选择理论视角看 AI 对齐
AI Alignment From Social Choice Perspectives
AI 导读
一项综述研究用社会选择理论审视基于人类反馈的对齐，指出当人类判断反映对理想行为的冲突观点时，学习到的目标就变成对模型偏好的聚合裁定。该研究梳理了近期工作，说明社会选择视角如何帮助识别反馈聚合层的失效模式，并揭示以显式、有原则的方式处理分歧的更广设计空间。
正文 · AI 翻译
摘要：基于人类反馈的对齐利用人类对模型输出的判断，在预训练后引导语言模型的行为。当这些判断反映出对理想行为相互冲突的观点时，所学习到的目标就变成了对模型应偏好什么的聚合性判定。我们综述了近期从社会选择理论视角研究这一聚合问题的工作。我们说明社会选择视角如何有助于识别反馈聚合层中的失效模式，并揭示出一个更广阔的设计空间，以显式且有原则的方式处理分歧。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2606.21550 [cs.AI] |
| （或 arXiv:2606.21550v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.21550 arXiv 颁发的 DOI，通过 DataCite |
|
| 期刊 参考： | ACM SIGecom Exchanges 24(1):47-76, 2026 |
提交历史
来自：Itai Shapira [查看电子邮件]
[v1]
2026年6月19日星期五 15:47:01 UTC（99 KB）
[v2]
2026年10月15日星期四 15:34:05 UTC（51 KB）
来源：arXiv cs.AI · arxiv.org