跳到正文
arXiv cs.AI· Miha Kap\v{s}, Bla\v{z} Bertalani\v{c}, Carolina Fortuna·· 10 小时前AI 评分31

无反向传播深度学习用于时间序列分类:DFA、DRTP 与 NoProp 在 112 个 UCR 数据集上的系统评测

Backpropagation-free Deep Learning for Time-Series Classification

AI 导读

研究将 DFA、DRTP 和 NoProp 三种无反向传播学习规则适配到一维卷积架构的单变量时间序列分类,并在 UCR 档案的 112 个数据集上完成首次系统评测,优化后平均 F1 为 0.76 至 0.79,低于 ROCKET 的 0.83 和 InceptionTime 的 0.84。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:用于时间序列分类(TSC)的深度神经网络几乎完全通过误差反向传播进行训练,这带来了更新锁定和权重传输问题。无反向传播的学习规则,如直接反馈对齐(DFA)、直接随机目标投影(DRTP)和受扩散启发的 NoProp,缓解了这些约束,但几乎只在二维图像基准上进行了评估。我们将这三种学习器适配到具有一维卷积架构的单变量 TSC,并首次在 UCR 时间序列档案库的 112 个数据集上对它们进行了系统研究,每种方法使用一个经超参数优化的配置。优化后的学习器达到 0.76 至 0.79 的平均 F1 分数,低于 ROCKET(0.83)和 InceptionTime(0.84)。我们提出了一个分析框架,将每个数据集相对于 InceptionTime 的差距与数据集属性关联起来,并通过将展平读出替换为全局平均池化来测试卷积特征学习,以与相同架构上的反向传播对照进行双重差分(DD)来衡量。类内时间变异性是所有三种学习器的差距最一致关联的数据集属性(偏 Spearman $\rho$ 从 $0.28$ 到 $0.40$)。池化对 DFA 和 DRTP 的损害大于反向传播(DD 为 $-0.025$ 和 $-0.055$),这与接近随机的卷积特征一致,而 NoProp 像反向传播一样容忍池化(DD 为 $+0.013$)。与相同架构上的反向传播相比,DRTP 将训练浮点运算(FLOPs)减少 33%,并且仅在序列长度超过约 700 个时间步时训练更快,DFA 没有带来计算量减少,而 NoProp 将峰值内存减少 38%,代价是训练时间延长 48%。
评论: 16 页,12 幅图
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.41805 [cs.LG]
  (或 arXiv:2610.41805v1 [cs.LG] 为此版本)
  https://doi.org/10.48550/arXiv.2610.41805

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Miha Kapš [查看电子邮件]
[v1] 2026 年 10 月 30 日星期五 14:33:27 UTC(575 KB)

来源:arXiv cs.AI · arxiv.org