arXiv cs.AI· Donghwan Kim, Hyunsoo Yoon·· 11 小时前AI 评分22
SPEM:从熵视角缓解流模型 OOD 检测中的似然悖论
Mitigating the Likelihood Paradox in Flow-based OOD Detection: An Entropic Perspective
AI 导读
研究者提出 Semantic Proportional Entropy Manipulation(SPEM),一种无需训练的方法,通过对与 ID 记忆库相似度更低的输入施加更强扰动,缓解归一化流等深度生成模型给 OOD 输入异常高似然的问题。
正文 · AI 翻译
摘要:能够可计算地求出输入似然的深度生成模型(包括归一化流)往往会给分布外(OOD)输入赋予出乎意料的高似然。我们从熵的角度出发,采用语义比例熵操控(SPEM)来缓解这一悖论;SPEM 是一种无需训练的过程,它对与分布内(ID)记忆库相似度较低的输入施加更强的扰动。我们推导出理论下界,表明这种熵差会增大有利于 ID 的期望对数似然差,并且在标准基准上的实验表明,这种操控使似然排序与人类直觉重新对齐。引人注目的是,即使只向流模型提供视觉上无意义的噪声而非原始输入,这种重新对齐依然存在;我们从理论上分析了这一现象,以刻画其发生的条件。
| 评论: | 29 页,3 幅图 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2602.09581 [cs.LG] |
| (或 arXiv:2602.09581v2 [cs.LG] 为本版本) | |
| https://doi.org/10.48550/arXiv.2602.09581 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Donghwan Kim [查看邮箱]
[v1]
2026 年 2 月 10 日星期二 09:31:03 UTC(808 KB)
[v2]
2026 年 10 月 23 日星期五 08:17:47 UTC(668 KB)
来源:arXiv cs.AI · arxiv.org