arXiv cs.AI· Linqian Wu, Diaoxuan He·· 11 小时前AI 评分26
相同行为，不同机制：有限实验能对整合信息 φ 证明什么
Same Behavior, Different Mechanism: What Finite Experiments Can Certify About Integrated Information
AI 导读
研究针对整合信息论中的 φ 在有限、部分、含噪干预下何时可识别、可认证给出精确回答：在四、五单元随机网络中，输入输出规律相同的循环与前馈网络分别携带 0.28 与 0 bit，但内部记录可在 4-53 次试验内区分二者。
正文 · AI 翻译
摘要：可解释性、AI 审计以及机器意识评估日益依赖于机制层面的量：即系统因果转移律的泛函，它们描述系统如何计算，而非输出什么。实验只能通过有限、部分且带噪声的干预来观察该规律。我们研究这样一个量在何时能从实验的访问中可识别、在机制上连续、并能从有限数据中得到认证，并针对一个刻意严苛的案例——整合信息论中的整合信息 $\varphi$——在具有已知真值的四单元和五单元随机网络中给出精确回答。行为可以是沉默的：一个循环网络和一个前馈网络在其响应延迟处具有相同的输入-输出规律，却分别携带 0.28 比特和 0 比特，而内部记录能在 4-53 次试验内将它们区分开。部分访问同样可能盲目：在我们的例子中，被排除在一步记录之外的单元会施加 0.30-1.02 比特的精度下限，任何样本量都无法降低；而在除自身外的奇偶网络中，任意长度的记录只能通过其保真度的乘积来观察若干隐藏单元——这一对称性在精确检查中被一次干预打破。该度量具有尖锐的边缘：由于 $\varphi$ 依据一个标准选择划分及其指定的原因和结果，却报告另一个标准，跨越边缘的机制的无穷小变化会使它改变 25-100%，在我们于随机网络中发现的 99% 的边缘处如此，并且约 1% 几乎完美拟合干预数据的替代模型会将其误报超过 20%。单侧断言仍然成立：同一数据在边缘两侧都能认证一个下界，并且我们证明在 64 维机制区域内 $\varphi>1.004$ 比特，并从约 $10^7$ 次受控转移中认证这一点，错误认证概率至多为 $\alpha$。因此可测量性是一个具有可计算答案的设计问题。
| 评论： | 30 页，7 幅图。代码以补充文件形式提供 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；神经元与认知（q-bio.NC） |
| 引用为： | arXiv:2611.08469 [cs.LG] |
| （或 arXiv:2611.08469v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.08469 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Linqian Wu [查看邮箱]
[v1]
2026 年 11 月 5 日星期四 18:55:31 UTC（704 KB）
来源：arXiv cs.AI · arxiv.org