arXiv cs.AI· Joseph Rawson, Domniki Ladopoulou, Petros Dellaportas·· 2 天前AI 评分20
多任务神经扩散过程(MT-NDPs):面向不确定性感知多任务回归与少样本适应
Multi-task Neural Diffusion Processes
AI 导读
研究者提出多任务神经扩散过程(MT-NDPs),通过引入任务编码器从上下文观测中提取低维表示,使扩散模型具备任务条件化的概率回归与少样本适应能力,并保持对上下文观测顺序的置换不变性。
正文 · AI 翻译
摘要:神经扩散过程为函数分布建模提供了一种可扩展的非高斯方法,但现有公式仅限于单任务推断,无法捕捉相关任务之间的依赖关系。我们提出了多任务神经扩散过程(MT-NDPs),这是一种扩展方法,引入任务编码器以实现任务条件概率回归和跨相关函数的少样本适应。任务编码器从上下文观测中提取低维表示,并以此表示作为扩散模型的条件,从而在任务之间共享信息,同时适应可变大小的上下文集,并保持对上下文观测顺序的置换不变性。我们通过合成实验以及涉及风力涡轮机数据和学校考试成绩的两个真实应用对 MT-NDPs 进行了评估。结果表明,在有上下文观测可用时,相对于单任务扩散基线,预测精度有所提高,同时与神经过程和 高斯过程替代方案相比具有竞争力。在风能应用中,MT-NDPs 在较大上下文规模下取得了所评估模型中最低的平均覆盖率误差,表明预测不确定性校准有所改善。总体而言,我们的发现凸显了任务条件扩散模型在不确定性感知多任务回归以及对先前未见任务的少样本适应方面的潜力。
| 评论: | 37 页,16 幅图,5 张表 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);应用(stat.AP);机器学习(stat.ML) |
| 引用为: | arXiv:2510.03419 [cs.LG] |
| (或 arXiv:2510.03419v3 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2510.03419 arXiv 颁发的 DOI,通过 DataCite |
提交历史
来自:Domniki Ladopoulou [查看电子邮件]
[v1]
2025 年 10 月 3 日星期五 18:26:23 UTC(25,395 KB)
[v2]
2026 年 1 月 16 日星期五 12:40:10 UTC(25,414 KB)
[v3]
2026 年 10 月 15 日星期四 12:14:37 UTC(27,631 KB)
来源:arXiv cs.AI · arxiv.org