arXiv cs.AI· Haoran Zhang, Haixuan Liu, Xingjian Su, Yong Liu, Zhi Chen, Yuxuan Wang, Jianmin Wang, Mingsheng Long·· 9 天前AI 评分27
Timer-M1:通过学习基元构建的多变量时间序列基础模型
Timer-M1: A Multivariate Time Series Foundation Model via Learning Primitives
AI 导读
Timer-M1 是一个基于基元学习的预训练多变量时间序列基础模型,用于零样本预测。它通过基元数据合成与预训练流程,结合门控二维 Transformer 模块动态分配跨变量注意力。在 FEV 和 TIME 两个大规模预测基准上排名第一,GIFT-Eval 上排名第二。
正文 · AI 翻译
摘要:我们提出 Timer-M1,一种预训练多变量时间序列基础模型,它通过基元学习来实现零样本预测。跨领域的时间序列共享基本的时间与关系模式,称为基元,但这些基元在不同情境下的表现和演化方式各不相同。尽管在零样本和任务通用预测方面取得了进展,现有基础模型可能仍难以泛化到复杂的现实场景。为此,我们开发了基于基元的数据合成与预训练流程。合成流程生成具有跨领域共享时间基元的序列,然后使用关系基元将真实序列和生成序列组装成多变量样本。随后,通过为样本分配不同的通道角色——目标变量、仅过去协变量和已知未来协变量——将其组织为片段,确保模型利用可用的外生信息在可预测变量上进行优化。在技术上,Timer-M1 进一步采用门控二维 Transformer 块,在层间动态分配跨变量注意力。在三个大规模预测基准上,Timer-M1 在 FEV 和 TIME 上均排名第一,在 GIFT-Eval 上排名第二,位居最新时间序列基础模型前列。这些结果支持基于基元的预训练是通往跨领域和任务设置的稳健通用预测技术的有效途径。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.11734 [cs.LG] |
| (或 arXiv:2610.11734v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.11734 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Haoran Zhang [查看邮箱]
[v1]
2026年10月8日星期四 11:28:56 UTC(1,326 KB)
来源:arXiv cs.AI · arxiv.org