arXiv cs.CY· Alondra Nelson, Sola Kim·· 10 小时前AI 评分31
厚对齐：面向价值观与 AI 系统的社会框架
Thick Alignment: A Social Framework for Values and AI Systems
AI 导读
研究者提出“厚对齐”（thick alignment）框架，主张主流对齐技术属于“薄对齐”，通过偏好标注、奖励建模和消费者评分等通约手段，将情境化的价值判断压缩为一两个指标。
正文 · AI 翻译
摘要：计算机科学中关于人工智能（AI）系统“对齐”的研究，将人类价值观视为需要被指定和优化的内容。数十年的社会科学研究对价值观的描述则不同：价值观在寻常实践中被践行，在社会语境中被解读，并在多元的评价与价值秩序中受到争议。我们认为，主流的对齐技术——我们称之为“薄对齐”——通过偏好标注、奖励建模和消费者评分等通约装置，将情境化的道德或价值判断转化为一个或少数几个指标。借鉴哲学与人类学关于“厚”的论述，“厚对齐”转而考察价值观如何成形、如何影响 AI 系统的开发，以及如何陷入关于其服务于谁的利益之争。我们描述了看似对齐的算法系统中两种凸显薄对齐的错位形式：“Halcyon 错位”，它预设技术与价值观存在一个先前的、公正的均衡，而系统已偏离该均衡；“镜像错位”，它指称那些在薄意义上对齐、却准确复制了不平等社会秩序的系统所产生的风险与危害。厚视角会将此类系统记录为错位。随后，我们梳理了自 2023 年首次提出以来，研究者如何采纳和改造厚对齐概念，借助这些改造来完善该概念，并提炼出其三大支柱：（1）既反映又构成价值观的语境描述；（2）贯穿系统生命周期的价值观审视；（3）共享且可问责的决策，使受影响的公众能够参与决定哪些价值观引导系统。最后，我们探讨了对 AI 研究与政策的影响。
| 主题： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2611.05857 [cs.CY] |
| （或 arXiv:2611.05857v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05857 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Sola Kim [查看邮箱]
[v1]
2026年11月4日 星期三 02:47:18 UTC（87 KB）
来源：arXiv cs.CY · arxiv.org