arXiv cs.AI· Maud van Lier, Ludovica Marinucci, Vieri Giuliano Santucci, Raja Chatila, St\'ephane Doncieux, \'Emiland Garrab\'e, Richard Duro·· 3 天前AI 评分22
可接受的失准：自主机器人价值对齐为何无法完全实现
Acceptable Misalignment
AI 导读
研究者提出"可接受的失准"概念，认为自主机器人的价值对齐问题在理论和实践上都无法完全实现，失准事件将持续发生。论文主张从追求对齐最大化转向关注失准事件变得可接受的条件，并给出对齐机制的规范性要求及一套新的方法论框架。
正文 · AI 翻译
摘要：设计者在开发能够进行开放式学习的自主机器人时面临一个特定的挑战。这一挑战是：当设计时对于其部署方式、它们能够且将会学到什么，以及这些系统将如何基于所学内容行动存在诸多未知时，如何以伦理上合理的方式开发此类系统。应对这一挑战的一种方法是尽可能使自主机器人的活动和目标与人类价值观保持一致，这就提出了如何实现这种一致性的问题，该问题被称为价值对齐问题。我们认为，价值对齐问题面临诸多挑战，这些挑战表明完全对齐在理论上和实践上都不可能，这意味着不一致事件将持续发生。这削弱了当前的对齐方法，因为试图最大化对齐无法妥善处理这样一种可能性：在实施对齐方法之后仍然存在的不一致风险，对社会而言可能仍然不可接受。为克服这一困难，我们认为需要转变视角，从关注对齐的最大化转向关注不一致事件变得可接受的条件。在本文中，我们探讨这一视角转变意味着什么。我们引入可接受的不一致这一概念，提出旨在将不一致事件降至可接受水平的对齐机制的规范性要求，并在最后提出一个由能够满足这些要求的对齐机制组成的新方法论框架。
| Comments: | 16 页，1 幅图 |
| Subjects: | 人工智能（cs.AI）；机器人学（cs.RO） |
| Cite as: | arXiv:2610.16881 [cs.AI] |
| （或 arXiv:2610.16881v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16881 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
来自：Maud Van Lier [查看电子邮件]
[v1]
2026年10月12日星期一 14:42:46 UTC（571 KB）
来源：arXiv cs.AI · arxiv.org