arXiv cs.AI· Zheng Wang, Kaixuan Zhang, Xiaonan Lu, Wanfang Chen·· 11 小时前AI 评分31
Echoes of Error：面向时间序列预测的残差方向局部 rollout 一致性正则化
Echoes of Error: Residual-Directional Local Rollout Consistency for Timeseries Forecasting
AI 导读
研究提出残差方向局部 rollout 一致性方法，通过一阶局部代理惩罚预测器沿实际反馈扰动的 Jacobian-vector product，抑制自生成误差影响未来预测的方向。该方法在预测流形附近给出几何解释，理论上保证自由运行轨迹留在流形周围的稳定管内，时间序列预测实验显示该正则化提升了预测精度。论文已被 NeurIPS 2026 接收，代码已开源。
正文 · AI 翻译
摘要：在时间序列预测中，滚动误差不仅仅是单步拟合的偏差：一旦被反馈到不断演变的状态中，它们就会扰动未来的预测。我们通过局部滚动一致性来形式化这一效应，即比较教师强制下产生的下一个预测与自由运行下产生的下一个预测。原则上，这种一致性可以通过追踪残差引起的下一状态扰动来直接强制实现。然而在实践中，当输入状态和输出块具有不同的维度、异构组件或依赖架构的布局时，残差到状态的对齐算子往往难以设计。因此，我们使用一阶局部代理，惩罚预测器沿实际反馈扰动的雅可比-向量乘积，从而精确抑制自生成误差对未来预测仍然可见的那些方向。我们进一步在预测流形附近为同一损失给出几何解释：通过控制探测法丛的残差诱导方向，该目标给出了自由运行轨迹保持在流形周围稳定管内的理论条件。时间序列预测任务的实验支持这一观点，表明所提出的正则化提高了预测精度。更广泛地说，我们的结果提出了时间序列预测器和序列预测器的训练原则：模型不仅应产生小的单步误差，还应学会不让自身的误差回响到未来。代码可在 此 https URL 获取。
| 评论： | 已被 NeurIPS 2026 接收发表 |
| 主题： | 机器学习 (cs.LG)；人工智能 (cs.AI) |
| 引用为： | arXiv:2611.07473 [cs.LG] |
| （或 arXiv:2611.07473v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.07473 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zheng Wang [查看电子邮件]
[v1]
2026年11月5日星期四 05:32:13 UTC（712 KB）
来源：arXiv cs.AI · arxiv.org