arXiv cs.AI· Navodita Sharma, Abhishek Shetty, Max Simchowitz, Pulkit Agrawal·· 12 小时前AI 评分31
条件流模型将认知不确定性转化为表观偶然方差
Conditional Flow Models Convert Epistemic Uncertainty into Apparent Aleatoric Variance
AI 导读
条件流模型(CFM)生成的样本方差常大于真实条件分布,即使在近乎确定性的回归任务中也是如此。这种额外方差源于模型尚未解析对条件变量的依赖,实质是把拟合真实条件分布时的认知不确定性转化为生成样本中的表观偶然方差。该方差随模型对复杂目标的欠拟合而增大,并随额外训练或数据增加而减小,据此可设计覆盖真实回归目标的高覆盖率预测集。
正文 · AI 翻译
摘要:条件流模型(CFMs)正日益取代确定性预测器,广泛应用于机器学习各领域,包括经典上被表述为回归的任务。鉴于它们在这类任务中的成功,我们提出一个问题:CFMs 产生的条件分布,相比点预测器,能提供哪些有用的额外信息?
我们发现了一个系统性现象:在许多自然情形下,CFM 样本的方差通常大于真实条件分布的方差,即使在近乎确定性的回归问题中也是如此。这一效应在模型尚未解析出对条件变量的依赖时最为显著,因此额外的方差可以视为将拟合真实条件分布时的认知不确定性转化为生成样本中表观的偶然方差。通过受控的合成与真实数据实验,以及与显式平滑估计器的比较,我们表明所诱导的方差反映了模型对复杂或难以拟合目标的欠拟合,并随额外训练或数据而减小。我们在一个简化设定下对该现象给出了理论解释,并展示了条件流匹配的一个由此产生的实际用例:设计覆盖真实回归目标的高覆盖率预测集。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.29172 [cs.LG] |
| (或 arXiv:2610.29172v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.29172 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Navodita Sharma [查看邮箱]
[v1]
2026年10月21日 星期三 04:02:35 UTC(5,422 KB)
来源:arXiv cs.AI · arxiv.org