ATEMPO：按滞后与时序摊销的迁移熵估计模型

查看 PDF HTML（实验性）

摘要：当一个时间序列为另一个时间序列提供信息时，该信息到达的延迟决定了模型能否有效利用这种关系。一个源在一个延迟处可能具有很强的预测能力，但在相邻的滞后处却毫无信息量。因此，固定的输入窗口可能会将有用和无用的历史捆绑在一起，从而掩盖这种结构。转移熵（TE）可以通过衡量源的过去在目标自身历史之外还能告诉我们多少关于目标的信息，来恢复这些延迟。然而，现有的 TE 估计器需要在源深度和条件深度上分别拟合，并且还需要在局部窗口上进一步估计，以跟踪延迟随时间的变化。我们提出了 ATEMPO，一种基于扩散的转移熵估计器，在滞后和时间上进行了摊销。ATEMPO 在训练期间对源深度和条件深度进行采样，并显式地以时间位置为条件，使得单个评分网络无需重新拟合即可估计完整的 TE 曲面。对该曲面进行差分即可恢复信息到达的时间。在具有真实 TE 的合成数据集上，ATEMPO 在基线中实现了最低的平均相对误差；在具有已知滞后的数据集上，ATEMPO 实现了 $0.98\pm0.04$ 的滞后检测准确率。ATEMPO 需要在源深度 $K=6$ 和目标深度 $L=3$ 上进行一次拟合，而现有估计器需要 18 次单独拟合才能评估相同的 $K \times L$ 网格。在三个具有时变滞后的系统上，ATEMPO 是唯一在所有评估窗口长度下都保持完美滞后检测准确率的估计器。这些恢复的延迟改善了下游预测：ATEMPO 选择的输入将 WEATHER-5K 上的 MSE 降低了 7.25%，而 120 个选定的输入比基准的 240 特征默认值高出 4.6%。在三个脑机接口任务中，使用 ATEMPO 选择的滞后实现了最高或并列最高的 $R^2$，相对于最强的竞争基线，平均 $R^2$ 提高了 4.1%。

提交历史

来自：Emma Andrews [查看电子邮件]
[v1] 2026年10月27日星期二 02:49:07 UTC（605 KB）