Hacker News· sbulaev·· 5 天前AI 评分66
AI 模型可证明地隐藏任意能力：NeurIPS 2026 论文揭示能力审计的极限
AI models can provably hide arbitrary capabilities
AI 导读
arXiv 论文《AI models can provably hide arbitrary capabilities》提出一种后门攻击，将加密神经网络嵌入宿主模型权重，仅在收到秘密触发时解密并执行，从而在密码学假设下使隐藏电路难以被诱导或解释。
正文 · AI 翻译
摘要：能力评估旨在在部署前揭示危险的模型行为，但其可靠性取决于一个假设：隐藏的能力可以被诱发出来。我们通过构造后门攻击，将加密的神经网络嵌入宿主模型权重中，仅在接收到秘密触发器时才解密并执行，从而表明该假设在对抗条件下并不成立。利用数字锁柜，这些隐藏电路在密码学假设下可证明难以被诱发和解释，即使完全访问模型权重也是如此，这将先前的工作从隐藏固定字符串扩展到任意计算。我们在 PyTorch 中实现了概念验证构造，并在一个小型化学反应预测任务（CBRN 相关能力的代理）上通过微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练来评估诱发效果。我们的结果证明了对此类方法的抵抗能力，并结合我们的密码学保证，揭示了基于诱发的能力审计的局限性。我们发布模型以支持防御的改进。
| 评论： | 22 页，6 幅图，3 张表。已被 NeurIPS 2026 接收 |
| 主题： | 机器学习（cs.LG）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.13928 [cs.LG] |
| （或 arXiv:2610.13928v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13928 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Andis Draguns [查看邮箱]
[v1]
2026 年 10 月 9 日星期五 17:55:06 UTC（878 KB）
来源：Hacker News · arxiv.org