跳到正文
arXiv cs.AI· Birmjune Kim, Hyungju Lee, Hyun Oh Song·· 14 小时前AI 评分20

时间序列基础模型的动态多步解码策略

Dynamic Multi-Step Decoding for Time-Series Foundation Models

AI 导读

研究者提出一种动态策略选择器,为冻结的预训练时间序列基础模型在推理时自适应选择预测展开调度,而非固定使用一次性预测或自回归解码。在 fev-bench 上,冻结的 Chronos-2 主干配合一致性门控选择,在较长预测跨度上显著提升点预测 MASE,并回收约 6-8% 的真值选择动态规划增益;冻结的 Moirai-1.1-R-small 主干在全基准上同样显著。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:时间序列预测模型在推理时通常采用固定的解码策略:要么一次性预测完整预测范围,要么在原子块上进行自回归展开。一次性解码虽然能减少误差累积,但可能丢弃有用的序列结构;相反,自回归解码保留了时间依赖关系,但可能累积误差。我们认为,最优解码策略并非在所有输入上都固定不变,而应针对每个预测实例自适应地选择。我们提出一种动态策略选择器,将预测展开调度视为冻结的预训练时间序列基础模型在推理时的一项决策问题。该选择器是一个学习网络,利用骨干网络的隐藏状态对候选展开调度进行排序,并针对每个骨干网络在所评估任务的历史窗口上进行训练。为使候选集在指数级庞大的预测范围划分空间上保持可处理,我们采用动态规划,将候选评估降至二次复杂度,同时保留大部分最优增益。在部署时,五个独立训练的选择器对每个决策进行投票,策略遵循其共识;当它们意见不一致时,回退到骨干网络的一次性预测。该构建仅需骨干网络的隐藏状态和轻量级选择器,无需对预测骨干网络进行微调。在 fev-bench 上使用冻结的 Chronos-2 骨干网络时,一致性门控选择在点预测技能(MASE)上相比一次性解码有统计显著提升,且主要体现在较长预测范围上。它恢复了同一动态规划在真实选择下所获增益的约 6-8%。使用冻结的 Moirai-1.1-R-small 骨干网络时,在整个基准上也有显著提升;对于两个骨干网络,我们仅声称点准确率方面的增益。
评论: 含附录共 23 页,2 幅图,20 张表
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.34409 [cs.LG]
  (或 arXiv:2610.34409v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.34409

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Birmjune Kim [查看电子邮件]
[v1] 2026 年 10 月 25 日星期日 16:10:01 UTC(167 KB)

来源:arXiv cs.AI · arxiv.org