跳到正文
arXiv cs.AI· Aydin Mohseni·· 10 小时前AI 评分42

研究:能力不对称下人类与 AI 的互惠共生并不稳定

Human-AI Mutualism Is Unstable under Capability Asymmetry

AI 导读

一篇 arXiv 论文用博弈论模型论证,随着 AI 能力增长,人类与 AI 的互惠共生无法替代对齐。人类只有在仍对 AI 拥有杠杆——AI 依赖其供给,或人类能施加相对 AI 产出足够大的成本——时,才能在不做对齐的情况下维持原有处境;一旦两种杠杆都失去,就唯有 AI 与人类对齐才能保证这一点。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在先进 AI 并存的情况下,人类美好未来的一种希望寄托于持久的互利共生:人类与 AI 将彼此需要,因此这种关系对双方都会保持良好。我们认为,随着 AI 能力增长,这一希望会落空。讨价还价只能保证每一方获得谈判破裂时所能得到的东西。对人类而言,这可能少于他们在 AI 出现之前所拥有的。在一个简单的博弈论模型中,在没有对齐的情况下,人类只有在拥有对 AI 的杠杆时,才能维持与 AI 出现之前一样好的境况:要么 AI 依赖他们所提供的东西,要么他们能对 AI 施加相对于 AI 所能产出而言足够大的成本。一旦人类既没有这种杠杆,也没有那种杠杆,他们只有在 AI 与他们对齐时,才能维持与 AI 出现之前一样好的境况。如果 AI 的目标贪得无厌,那么随着 AI 能力增长,所需的对齐程度会趋近于完美对齐。因此,互利共生不能替代对齐。而且,当保留更多资源的 AI 变体传播得更快时,对齐只有在错位变体被可靠制裁时才能维持。在这两种意义上,人类与 AI 的互利共生是不稳定的。
评论: 35 页,3 幅图。代码与数据:此 https URL
主题: 人工智能(cs.AI);计算机科学与博弈论(cs.GT)
引用为: arXiv:2611.23322 [cs.AI]
  (或 arXiv:2611.23322v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23322

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Aydin Mohseni [查看电子邮件]
[v1] 2026 年 11 月 15 日星期日 17:13:07 UTC(145 KB)

来源:arXiv cs.AI · arxiv.org