arXiv cs.AI· Lei Gao, Hengda Bao, Jingfei Fang, Guangzheng Wu, Weihua Zhou, Yun Zhou·· 11 小时前AI 评分29
Li-Net:用稀疏注意力机制实现精准高效的多通道时间序列预测
Accurate and Efficient Multi-Channel Time Series Forecasting via Sparse Attention Mechanism
AI 导读
论文提出 Li-Net 架构,用于多通道时间序列预测,通过动态压缩序列与通道维度表示、可配置非线性模块及多尺度投影框架下的稀疏 Top-K Softmax 注意力,捕捉通道间线性与非线性依赖。该架构还能融合多模态嵌入,引导稀疏注意力聚焦信息量最大的时间步与特征通道。在多个真实基准数据集上,Li-Net 性能与 SOTA 基线相当,同时内存占用显著更低、推理速度更快。
正文 · AI 翻译
摘要:多通道时间序列预测任务在金融、供应链管理和能源规划等众多领域中普遍存在。有效捕捉通道内部及通道之间复杂的动态依赖关系对于准确预测至关重要。然而,传统方法对学习通道间交互的关注较少。本文提出 Linear-Network(Li-Net),一种专为多通道时间序列预测设计的新型架构,能够捕捉通道间的线性和非线性依赖关系。Li-Net 在序列和通道维度上动态压缩表示,通过可配置的非线性模块处理信息,随后重建预测结果。此外,Li-Net 在多尺度投影框架内集成了稀疏 Top-K Softmax 注意力机制以应对这些挑战。其核心创新在于能够无缝整合并融合多模态嵌入,引导稀疏注意力过程聚焦于最具信息量的时间步和特征通道。在多个真实世界基准数据集上的实验结果表明,与最先进的基线方法相比,Li-Net 取得了具有竞争力的性能。此外,Li-Net 在预测准确性与计算负担之间提供了更优的平衡,展现出显著更低的内存占用和更快的推理时间。详细的消融研究和参数敏感性分析验证了我们所提出架构中每个关键组件的有效性。
关键词:多变量时间序列预测、稀疏注意力机制、多模态信息融合、非线性关系
| 评论: | 被 ICDE 2026 接收 |
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2603.18712 [cs.AI] |
| (或 arXiv:2603.18712v2 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2603.18712 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Hengda Bao [查看邮箱]
[v1]
2026年3月19日星期四 10:11:23 UTC(890 KB)
[v2]
2026年10月15日星期四 02:26:33 UTC(1,483 KB)
来源:arXiv cs.AI · arxiv.org