跳到正文
arXiv cs.AI· Henry Han, Luyu Niu, Diane Li, Jiacun Wang·· 1 天前AI 评分27

Smooth Rank t-SNE(SR-tSNE):显式保持邻居排序的流形学习方法

Differential rank preservation manifold learning

AI 导读

研究者提出 Smooth Rank t-SNE(SR-tSNE),在标准 t-SNE 损失中加入可微排序项,用 sigmoid 排序近似强制高维真实邻居压过无关入侵点并保持原有顺序。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:t-SNE 和 UMAP 等流形学习方法能保留局部邻域,但不保留邻域内邻居的排序。两个嵌入可以返回相同的邻居集合,却在哪个点最近上存在分歧。这种顺序的丢失会降低重视嵌入中顺序的下游应用的性能。我们提出 Smooth Rank t-SNE(SR-tSNE),它在标准 t-SNE 损失中加入了一个可微的排序项。为实现高效训练,该项使用 sigmoid 排序近似,显式地强制一个点的真实高维邻居排在无关入侵者之前,并保持其原始顺序。我们还引入了 Ordinal DLP(O-DLP),这是局部性保持度(DLP)指标的扩展,仅当邻居以其原始排名返回时才给予认可。在涵盖图像、文本、语音、遥感和单细胞数据的八个基准上,SR-tSNE 在排序保持和邻域重叠方面优于 12 个基线。消融研究表明,仅我们的排序项就将 O-DLP 提升了 5% 到 28%,这是使用标准成对损失无法实现的增益。这一优势可迁移到下游应用。SR-tSNE 在七个视觉数据集上取得了最佳的标签迁移性能。在六个单细胞数据集的细胞类型发现中,无论聚类分辨率是使用还是不使用细胞类型标签来选择,它都在 18 个数据集-指标组合中的 17 个中排名第一。在日内交易中,SR-tSNE 相比基线实现了更高的收益、更低的风险和更低的换手率。据我们所知,SR-tSNE 是首个具有显式顺序保持的 t-SNE 系列方法。
评论: 67 页,10 幅图,28 张表
主题: 人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2610.41107 [cs.AI]
  (或 arXiv:2610.41107v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.41107

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Henry Han [查看电子邮件]
[v1] 2026 年 10 月 30 日星期五 00:56:05 UTC(11,745 KB)

来源:arXiv cs.AI · arxiv.org