跳到正文
arXiv cs.AI· Quentin Fruytier, Akshay Malhotra, Shahab Hamidi-Rad, Aditya Sant, Aryan Mokhtari, Sujay Sanghavi·· 12 小时前AI 评分24

用 WAE-MMD 与可编程先验雕刻潜空间:解耦表示学习新方法

Sculpting the Latent Space: Disentanglement with WAE-MMD and Programmable Priors

AI 导读

研究提出用非参数 MMD 直接塑造聚合后验、实现可编程先验的 WAE-MMD 方法,相比主流基线将检测到的纠缠降低 70%,达到无监督统计独立性 SOTA。作者同时用无监督指标 Latent Predictability Score(LPS)量化了 VAE 与对抗训练在聚合后验上难以强制因子化表示的问题。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:学习解耦表示(即在潜在空间中独立捕获语义特征)主要由变分自编码器(VAE)和对抗训练主导。在本文中,我们提供了直接的定量和视觉证据,表明这些方法在聚合后验上始终无法强制实现目标因子化表示,从而导致纠缠表示。我们使用潜在可预测性得分(LPS)来量化这一失败,LPS 是一种互预测的无监督度量,经验上给出了潜在空间中纠缠程度的下界。为了解决这些局限性,我们利用非参数最大均值差异(MMD)直接塑造聚合后验,从而实现可编程先验。我们展示了:(1) 最先进的无监督统计独立性,与领先基线相比,检测到的纠缠减少了 70%;(2) 可选地注入半监督信息以实现显式语义对齐的灵活性;(3) 在不牺牲重建质量的情况下精确塑造聚合后验分布(通过量化感知训练验证)。
评论: 34 页,17 幅图。已被 SIAM 国际数据挖掘会议(SDM 2026)接收。v2:定稿修订版;更改标题;新增 LPS 下界引理、NashAE 基线、CelebA、半监督对齐和量化感知训练实验。代码:此 https URL
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2510.11953 [cs.LG]
  (或 arXiv:2510.11953v2 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2510.11953

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Quentin Fruytier [查看电子邮件]
[v1] 2025 年 10 月 13 日星期一 21:26:01 UTC(4,713 KB)
[v2] 2026 年 10 月 21 日星期三 17:17:00 UTC(5,565 KB)

来源:arXiv cs.AI · arxiv.org