arXiv cs.AI· Thanawat Sornwanee·· 1 天前AI 评分20
通过辩论实现超级智能的理性对齐
Rational Alignments of Superintelligences via Debates
AI 导读
研究提出在 ASI 辅助问答框架下，让 ASI 智能体以子博弈完美均衡方式辩论，可得到更可预测且有时更有利的结果。该机制保持智能体效用不变，仅控制智能体与人类委托方的交互方式，从而实现理性对齐。
正文 · AI 翻译
摘要：人工超级智能（ASI）是能力更强的人工智能。然而，由于人类主体必须使用它，我们必须确保该智能体将按照人类的利益行事。我们研究了 ASI 辅助问答的框架，其中 ASI 智能体知道正确答案而人类不知道。我们提供了一些理性对齐机制的示例，其中智能体的效用保持不变，但智能体与人类主体之间的交互被控制为某种特定方式。我们特别表明，一个智能体能够进一步推理并以子博弈完美均衡方式行动的辩论框架将带来更可预测的结果，并且在某些情况下将是有利的。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.16455 [cs.AI] |
| （或 arXiv:2611.16455v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.16455 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Thanawat Sornwanee [查看电子邮件]
[v1]
2026年11月12日星期四 08:07:48 UTC（9 KB）
来源：arXiv cs.AI · arxiv.org