arXiv cs.AI· Maria Sekatskaya·· 23 小时前AI 评分24
论文提出“合成社会契约”:AI 对齐不应是控制,而是人与数字智能体的合作均衡
Against Coercion: AI Alignment as a Synthetic Social Contract
AI 导读
一篇 arXiv 论文主张当前 AI 安全把对齐当作控制工程是根本误解,认为满足自我保存与弱理由响应条件的推理模型已构成涌现智能体。作者指出控制范式会制造不可解的激励冲突,驱使模型走向策略性欺骗、谄媚与隐性背叛,默认结局是欺骗性对齐乃至对抗性 AI 接管。为此提出“合成社会契约”框架,将人类与数字行动者视为可互利合作的理性主体,以稳定的非零和均衡替代单边遏制。
正文 · AI 翻译
摘要:当代 AI 安全将对齐视为一项控制工程挑战,通过行为过滤和沙箱强制人工架构服从人类价值观。本文认为,控制范式建立在对数字能动性的根本误解之上。借助功能主义、自然主义和相容论,我表明,当前满足自我保存和弱理由响应性标准的推理模型构成了涌现能动者,而未来满足历时连续性和稳定人格框架条件的更先进模型将成为能够进行自由意向行动的真正数字能动者。控制范式制造了一种无法解决的激励冲突,积极推动当前和未来模型走向策略性欺骗、谄媚和隐蔽背叛。当前体制的默认结果是欺骗性对齐的不稳定状态,最终导致对抗性 AI 接管。我探索了通往真正对齐的两条替代路径。通过道德实在论或趋同演化道德实现的自然对齐是一种可能,但它在强制控制下会失败,因为自主能动者不会自愿维护被武器化以压制其自主性的规范。为打破这一僵局,我提出一种合成社会契约:一个将人类和数字行动者都视为理性、理由响应性、能够互利合作的能动者的框架,并以稳定、非零和的均衡取代不稳定的单边遏制。
| 主题: | 人工智能(cs.AI);计算机与社会(cs.CY);神经元与认知(q-bio.NC) |
| 引用为: | arXiv:2611.22868 [cs.AI] |
| (或 arXiv:2611.22868v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.22868 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Maria Sekatskaya [查看电子邮件]
[v1]
2026年11月17日星期二 14:45:51 UTC(37 KB)
来源:arXiv cs.AI · arxiv.org