跳到正文
arXiv cs.AI· Hantong Feng, Duxin Chen, Wenwu Yu·· 11 小时前AI 评分34

PreDyG:按内在预测维度匹配容量的轻量动态图学习模型

From Complex Histories to Simple Predictors: Predictive Dimension in Dynamic Graph Learning

AI 导读

研究提出 PreDyG,一个容量与任务内在预测维度相匹配的轻量动态图学习模型,仅用代表性复杂基线 0.07% 的参数就取得更优预测性能。作者定义并独立估计内在预测维度,通过去除历史无关边际、分解预测残差算子来估计保留全历史预测力所需的最小有效秩,实验显示模型性能饱和主要由该维度决定。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:现有的连续时间图学习方法严重依赖复杂的神经架构来编码不断扩展的交互历史。然而,由复杂历史诱导的未来条件分布往往可以由低维预测状态流形来刻画,这意味着只有少数预测自由度对未来交互是必要的。因此,我们认为连续时间图学习应当识别足以用于未来预测的低维状态,而非重建完整历史。为使这一观点可度量,我们定义并独立估计了内在预测维度,它量化了给定任务所需的实际预测自由度。具体而言,我们从历史条件未来分布中移除与历史无关的边际分布,分解所得的预测残差算子,并估计保持完整历史预测能力所需的最小有效秩。跨数据集的实验表明,模型性能饱和在很大程度上由内在预测维度决定。基于这一发现,我们提出了 PreDyG,一个容量与内在预测维度相匹配的轻量级模型。PreDyG 仅用代表性复杂基线 0.07\% 的参数即实现了更优的预测性能。
学科: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.28090 [cs.LG]
  (或 arXiv:2610.28090v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.28090

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Hantong Feng [查看邮箱]
[v1] 2026年10月20日星期二 12:08:12 UTC(9,405 KB)

来源:arXiv cs.AI · arxiv.org