arXiv cs.AI· Quentin Fruytier, Akshay Malhotra, Shahab Hamidi-Rad, Aditya Sant, Aryan Mokhtari, Sujay Sanghavi·· 12 小时前AI 评分24
用 WAE-MMD 与可编程先验雕刻潜空间:解耦表示学习新方法
Sculpting the Latent Space: Disentanglement with WAE-MMD and Programmable Priors
AI 导读
研究提出用非参数 MMD 直接塑造聚合后验、实现可编程先验的 WAE-MMD 方法,相比主流基线将检测到的纠缠降低 70%,达到无监督统计独立性 SOTA。作者同时用无监督指标 Latent Predictability Score(LPS)量化了 VAE 与对抗训练在聚合后验上难以强制因子化表示的问题。
正文 · AI 翻译
摘要:学习解耦表示(即在潜在空间中独立捕获语义特征)主要由变分自编码器(VAE)和对抗训练主导。在本文中,我们提供了直接的定量和视觉证据,表明这些方法在聚合后验上始终无法强制实现目标因子化表示,从而导致纠缠表示。我们使用潜在可预测性得分(LPS)来量化这一失败,LPS 是一种互预测的无监督度量,经验上给出了潜在空间中纠缠程度的下界。为了解决这些局限性,我们利用非参数最大均值差异(MMD)直接塑造聚合后验,从而实现可编程先验。我们展示了:(1) 最先进的无监督统计独立性,与领先基线相比,检测到的纠缠减少了 70%;(2) 可选地注入半监督信息以实现显式语义对齐的灵活性;(3) 在不牺牲重建质量的情况下精确塑造聚合后验分布(通过量化感知训练验证)。
| 评论: | 34 页,17 幅图。已被 SIAM 国际数据挖掘会议(SDM 2026)接收。v2:定稿修订版;更改标题;新增 LPS 下界引理、NashAE 基线、CelebA、半监督对齐和量化感知训练实验。代码:此 https URL |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2510.11953 [cs.LG] |
| (或 arXiv:2510.11953v2 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2510.11953 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Quentin Fruytier [查看电子邮件]
[v1]
2025 年 10 月 13 日星期一 21:26:01 UTC(4,713 KB)
[v2]
2026 年 10 月 21 日星期三 17:17:00 UTC(5,565 KB)
来源:arXiv cs.AI · arxiv.org