arXiv cs.AI· Tianyu Wu (Project Aether)·· 11 小时前AI 评分34
零假设对照必要但不充分：评估科学发现与可解释性中的接受守卫
Null Controls Are Necessary but Not Sufficient: Evaluating Acceptance Guards for Scientific Discovery and Interpretability
AI 导读
研究提出四种可执行操作（识别冗余 L1、粗粒化动力学 L2、迁移结构 L3、从守恒失衡推断缺失量 L4），并用零接受率（NAR）、正接受率（PAR）和后果一致性（CAR）评估。
正文 · AI 翻译
摘要：自动化发现系统提出科学解释并检验哪些解释可以接受。通过检验是否就能确立预期的论断？我们开发了四种用于改变物理描述的可执行操作：识别冗余（L1）、粗粒化动力学（L2）、迁移结构（L3），以及从守恒失衡中推断缺失量（L4）。我们通过零接受（NAR）、正接受（PAR）和后果一致性（CAR）来评估这些操作和三种可解释性设置。
一个将所有状态映射为零的归约能完美预测自身的未来。尽管它不保留任何动力学变化，却在 129 个公开混沌系统中的 96% 上通过了闭合性检验。一项独立的可观测保持检验则始终拒绝它。在受控基准上，组合标准接受了 24/24 个真实归约，并拒绝了 72/72 个零假设。其他操作能够区分对称性与冗余、验证迁移，并拒绝虚假的守恒失衡。在语言模型和 ESM-2 蛋白质模型中，当所提出的对应关系被随机旋转时，线性 CKA 保持不变，而局部干预则能区分真实映射与受检验的零假设。在稀疏自编码器中，富集检验拒绝了全部 16 个受检验的零假设，但独立消融仅支持 45% 的可评估富集特征，而匹配对照仅为 0.5%。
这些结果揭示了两个接受差距：描述性检验可能接受科学上空洞的候选者，而被接受的候选者可能缺乏独立验证的后果。可靠的自动化发现需要同时评估检验接受了什么以及它确立了哪些科学后果。代码和数据：此 https URL。
| 评论： | 已被第 40 届神经信息处理系统大会（NeurIPS 2026）接收。研讨会：XAI4Science：通过可解释基础模型实现知识发现与信任 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.22445 [cs.AI] |
| （或 arXiv:2610.22445v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22445 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tianyu Wu [查看电子邮件]
[v1]
2026 年 10 月 15 日星期四 15:13:57 UTC（472 KB）
来源：arXiv cs.AI · arxiv.org