arXiv cs.AI· Gerrit Gro{\ss}mann·· 10 小时前AI 评分31
论文称 AI 对齐既不可解也不充分
AI Alignment Is Neither Solvable nor Sufficient
AI 导读
一篇 arXiv 论文主张 AI 对齐这一目标本身存在误导：对齐缺乏明确定义，因为它预设了足够稳定、可识别的人类意图或价值；即便能给出具体定义，对齐也不可解；而在看似可解之处，解决对齐也未必能减轻 AI 的负面影响。
正文 · AI 翻译
摘要：人类与 AI 系统越来越多地在相同的社会和经济环境中行动。对齐（alignment）旨在确保 AI 系统按照人类价值观行事，被广泛视为确保 AI 造福社会、避免危害的核心挑战。我们认为这一努力方向是错误的。首先，对齐并没有被很好地定义，因为它预设了一套足够稳定且可识别的人类意图或价值观。其次，在能够明确具体对齐概念的地方，它是无法解决的。第三，在对齐看似可解决的地方，解决它也未必能减轻 AI 的负面后果。一个关键原因是，对齐通常被框定为单个 AI 系统的属性，而由此产生的人机混合社会是由交互和反馈回路塑造的复杂系统。因此，涌现风险——而不仅仅是单个未对齐系统所带来的风险——很可能成为危害的主要来源。我们得出结论：AI 安全是一项持续性的挑战，而不是通过验证某个特定模型属性就能一劳永逸解决的问题。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.13167 [cs.AI] |
| （或 arXiv:2611.13167v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13167 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Gerrit Großmann [查看邮箱]
[v1]
2026年11月9日星期一 19:51:48 UTC（80 KB）
来源：arXiv cs.AI · arxiv.org