arXiv cs.AI· Avi Amalanshu, Chandler Squires, Yizhou Lu, Pradeep Ravikumar·· 13 小时前AI 评分18
密度比估计新视角:期望对数密度比(ELDR)的估计方法与局限
Estimating Implicit Expected Log Density Ratios
AI 导读
论文提出期望对数密度比(ELDR)概念,即在第三种测度下积分的对数密度比,并证明有限样本 ELDR 估计存在根本性限制,指出常规密度比估计(DRE)方法并不适用于 ELDR 任务。作者提出对部分 DRE 方法做简单修改,让收敛到积分分布的样本进入训练数据,基准测试显示可降低 ELDR 估计误差。
正文 · AI 翻译
摘要:当无法计算精确概率时,\emph{密度比估计(DRE)}是密度比出现的广泛应用中的关键子程序,从实验设计到生成建模和强化学习。在本文中,我们引入了\emph{期望对数密度比(ELDR)}的概念:即在某个第三、可能不同的测度下积分的对数密度比。我们表明,许多隐式密度问题中朴素使用 DRE 的实际上是 ELDR 估计任务,并证明了有限样本 ELDR 估计的基本局限性。基于这些结果,我们认为典型的基于 DRE 的方法不适合 ELDR 估计,并为定制 ELDR 估计器提供了一些基础性动机。为了演示,我们提出对某些 DRE 方法的简单修改,使收敛到积分分布的样本出现在训练数据中。我们通过基准测试表明,这可以改善 ELDR 估计误差。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);机器学习(stat.ML) |
| 引用为: | arXiv:2610.38151 [cs.LG] |
| (或 arXiv:2610.38151v1 [cs.LG] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.38151 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Avi Amalanshu [查看电子邮件]
[v1]
2026年10月28日星期三 01:35:32 UTC(5,553 KB)
来源:arXiv cs.AI · arxiv.org