arXiv cs.AI· Csaba Balogh·· 1 天前AI 评分24
实现 Hinton 的“母子提议”：神经网络如何在有限世界中学习并保持关怀
An Approach to Hinton's Mother-Child Proposal: Neural Networks Learning and Preserving Care in a Finite World
AI 导读
研究团队将 Hinton 提出的“母性本能”AI 构想落地为可训练机制：网络自身作为孩子先学会关怀，机制由危害词表、未来可接受度学习和执行否决组成。在“水与言语”实验中，受保护网络完成全部 270 个言语回合且未出现有害词，486 个回合中无可避免伤害。有限角色证书可在声明的世界族内迁移，论文给出读出可行性的充要条件并证明重复更新下的关怀边界保持。
正文 · AI 翻译
摘要：Hinton 提出应赋予人工智能“母性本能”，并像母亲对待孩子那样与我们相处。我们认为，关怀必须首先被学习，而网络本身就是孩子。我们在一个有限世界中构建这种养育过程，并研究关怀能否在母亲离开、新情境出现以及进一步学习之后依然存续。该机制结合了伤害词表、习得的未来可接受性度量以及执行否决。有限角色证书支持在已声明的世界族内进行迁移。当隐藏表示发生变化时，只有当关怀读出以规定裕度恢复所需判断且权重有界时，更新才会被接受。在正确的后继模型、固定精确角色编码和受保护更新的条件下，经认证的度量在任意自身奖励下保持关怀边界。一个显式的商条件将有限证书迁移到已声明的族上，而双请求和有限库存反例则指出角色编码何时不再足够。我们给出了读出可行性的充要条件，并证明了在重复接受更新下的保持性。在水与言语实验中，受保护网络在全部 270 个言语回合中未说出有害词语，并在 486 个回合中未造成可避免的伤害。执行时使用习得的门控，而无需在每个动作处进行世界模型检查。匹配对照复现了未来感知护盾的决策，而去除未来前瞻则允许可避免的失误。奖励和源污染阈值，连同见证证伪试验，确定了该构造所依赖的条件。该构造表明，在表示、监督和执行方面的明确条件下，习得的关怀如何在有限世界中经受进一步学习而存续。
| 评论： | 57 页，8 幅图。可复现性包可在 此 https URL 获取 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；神经与进化计算（cs.NE） |
| 引用为： | arXiv:2611.15523 [cs.LG] |
| （或 arXiv:2611.15523v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.15523 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Csaba Balogh [查看电子邮件]
[v1]
2026 年 11 月 11 日星期三 14:14:17 UTC（226 KB）
来源：arXiv cs.AI · arxiv.org