arXiv cs.AI· Alberto Foresti, Ivan Butakov, Alexander Tolmachev, Giulio Franzese, Alexey Frolov, Pietro Michiardi·· 10 小时前AI 评分29
面向互信息估计的多样化综合基准发布
Towards Diverse and Comprehensive Benchmarks for Mutual Information Estimation
AI 导读
研究提出一个基于统一 copula 理论的互信息估计基准框架，将现有基准作为特例纳入，并设计 copula-first 与 marginals-first 两类互补测试，覆盖合成数据、流式变换和真实图像数据。团队据此评测非参数、变分与生成式三类估计器，发现不存在通用最优方法，每类都能在特定设置下系统性胜出，并据此定位基本估计障碍、提出针对性新测试，代码已开源。
正文 · AI 翻译
摘要：互信息估计是机器学习和统计学中的一个核心问题；然而，现有基准通常在简化的低维分布上评估估计器，使其在复杂真实数据上的性能在很大程度上尚未得到探索。我们以统一的 copula 理论视角为基础，构建了一个全面的基准测试框架来填补这一空白，该框架将现有基准作为特例纳入其中。在此框架内，我们提出了两个互补的测试系列：copula 优先系列，利用合成和基于流的变换系统地改变真实互信息、维度和边缘复杂度；以及边缘优先系列，将真实世界图像数据与受控的依赖结构相结合，扩展了经典的同类配对范式。我们使用这套测试套件广泛评估了三类估计器：非参数、变分和生成式。与主流假设相反，我们的结果表明不存在通用的赢家：每一类估计器在特定设置下都能系统地优于所有其他估计器。通过分析这些情况，我们识别出基本的估计障碍，并提出新的测试，更有效地对这些特定局限性施压。我们在此 https URL 分享了开源代码。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；信息论（cs.IT） |
| 引用为： | arXiv:2607.03487 [cs.LG] |
| （或 arXiv:2607.03487v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.03487 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Alberto Foresti [查看电子邮件]
[v1]
2026年7月3日星期五 16:55:55 UTC（162 KB）
[v2]
2026年10月30日星期五 08:36:14 UTC（266 KB）
来源：arXiv cs.AI · arxiv.org