arXiv cs.AI· Jeongho Bang, Marcin Paw{\l}owski·· 14 小时前AI 评分18
Neural-IC:面向表示学习的随机访问容量定律
Neural Information Causality: A Random-Access Capacity Law for Representation Learning
AI 导读
研究者提出“神经信息因果性(Neural-IC)”表示定律,将因果访问与物理指定的接口容量联系起来:对独立比特构成的新数据库,后续查询可恢复的总信息量不能超过该容量,即使预先建立量子资源也不例外。
正文 · AI 翻译
摘要:当必须回答的问题只有在编码之后才被选定,学习到的表示如何能保持有用?保留信息至关重要,但这本身并不能确保能够访问所请求的目标。我们通过推导“神经信息因果性(Neural-IC)”来解决这一问题,这是一条将因果访问与物理指定的接口容量联系起来的表示定律。对于一个由独立比特组成的新数据库,即使预先建立了量子资源,在后续查询中可恢复的总信息量也不能超过该容量。一种分解方法将容量余量、跨目标联合组织的信息以及生成答案过程中的损失区分开来。对训练好的二进制码进行穷举评估,揭示了为什么几乎完全利用记忆的信息预算可以与有限的检索能力并存。在一种嵌套贝尔关联构造中,在相同的通信预算内,量子辅助相比最优经典单比特基准提高了平均检索性能。这些结果为表示学习提供了一个设计原则,将信息容量与目标信息的组织和提取联系起来。通过定位对后续答案的约束,该框架可以为记忆分配、编码目标和解码器输出提供指导,为在固定预算内寻求更好的检索提供基础。
| 评论: | 13 页,3 幅图(含附录) |
| 主题: | 量子物理(quant-ph);人工智能(cs.AI) |
| 引用为: | arXiv:2605.09316 [quant-ph] |
| (或 arXiv:2605.09316v2 [quant-ph] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2605.09316 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jeongho Bang [查看电子邮件]
[v1]
2026 年 5 月 10 日星期日 04:25:11 UTC(1,572 KB)
[v2]
2026 年 10 月 24 日星期六 14:06:15 UTC(131 KB)
来源:arXiv cs.AI · arxiv.org