跳到正文
arXiv cs.AI· David Leko, Luka Beni\'c, Guillermo Bern\'ardez, Nina Miolane, Olga Fink, Lev Telyatnikov·· 9 天前AI 评分22

Cluster-TNN:面向大图的可扩展拓扑深度学习局部提升框架

Batch Before You Lift: Scalable Topological Deep Learning on Large Graphs

AI 导读

Cluster-TNN 是一个领域无关的拓扑深度学习框架,通过在图预处理后于运行时动态采样节点簇、重建诱导子图形成 mini-batch 并在其中执行局部提升,避免全图提升表示的全局物化瓶颈。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:拓扑深度学习将基于图的学习扩展到高阶域,例如超图、胞腔复形和单纯复形。这些域通常通过图提升过程从输入图中的模式构建而来。全域训练在模型执行之前构建并存储完整的提升表示。在像 Reddit(23.3 万个节点和 5730 万条边)这样的大型稠密数据集上,这种全局物化成为严重的计算瓶颈,往往使训练变得不可行。为了解决这一限制,我们提出了 Cluster-TNN,一个与域无关的框架,它通过改为局部提升来避免这一瓶颈。在预处理阶段对输入图进行划分后,Cluster-TNN 在运行时动态采样节点簇组,重建它们诱导的子图以形成小批量,并在每个小批量内应用所选的提升。保留采样节点之间的所有边,保持了跨簇构建高阶结构所需的连通性,从而生成现有拓扑神经网络可以直接处理的拓扑小批量。在与全图执行进行的 21 项匹配比较中,Cluster-TNN 在每种配置下都降低了峰值 GPU 内存,平均降低 83.2%,同时保持了有竞争力的预测性能。值得注意的是,据我们所知,这种降低使得首次能够在 Reddit 和 OGBN Products 等大型数据集上训练多个不同的高阶拓扑神经网络。这些结果确立了 Cluster-TNN 作为一种通用策略,可将拓扑深度学习扩展到超越全局域构建限制的范围。
学科: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.12247 [cs.LG]
  (或 arXiv:2610.12247v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.12247

arXiv 颁发的 DOI 经由 DataCite(待注册)

提交历史

来自:David Leko [查看电子邮件]
[v1] 2026年10月8日星期四 16:23:43 UTC(508 KB)

来源:arXiv cs.AI · arxiv.org