跳到正文
arXiv cs.AI· Peicheng Wu, Zhenyu Bu, Runze Ma, Lin Du·· 14 小时前AI 评分22

REALM:面向 LFP 建模的回顾式编码器对齐框架

REALM: Retrospective Encoder Alignment for LFP Modeling

AI 导读

REALM 是一个用于因果 LFP 行为解码的回顾式知识蒸馏框架,将预训练的多会话双向 Mamba-2 教师模型(经连续掩码自编码预训练)的表征迁移到紧凑的因果学生模型。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:由于尖峰活动具有高时空分辨率,能够支持准确的解码,因此一直是行为解码的主要神经信号。然而,随着皮层内脑机接口(iBCIs)朝着更高通道数和无线操作方向发展,记录尖峰所需的高采样率带来了巨大的功耗和带宽需求。局部场电位(LFPs)具有互补优势,包括更高的长期稳定性、更低的能耗和更低的带宽需求。然而,基于 LFP 的解码器通常准确率较低,并且依赖无法直接用于实时部署的非因果架构。我们提出 REALM,一个用于因果 LFP 行为解码的回顾性知识蒸馏(RKD)框架。受语音识别中离线到在线蒸馏的启发,REALM 将来自预训练的多会话双向 LFP 教师的非因果表征知识迁移到因果学生模型。我们首先使用连续掩码自编码(CMAE)在多个记录会话上预训练一个双向 Mamba-2 教师,然后通过表征对齐和自编码的组合目标将其表征蒸馏到一个紧凑的因果学生模型。在无标签和微调流程中,REALM 在比较的解码器中均取得了最高的平均准确率,并且相对于每个基线(包括最先进的 CrossModalDistill)都有统计显著的提升。它在预训练、蒸馏和解码全程仅使用 LFP,参数量不到 CrossModalDistill 已发表学生模型的一半,预训练时间仅为其十分之一。这些结果表明,仅使用 LFP 的因果模型可以达到与非因果多模态模型相当的解码准确率,为下一代无线和植入式 iBCIs 提供了一种实用且可扩展的方法。
主题: 机器学习(cs.LG);人工智能(cs.AI);神经元与认知(q-bio.NC)
引用为: arXiv:2605.14867 [cs.LG]
  (或 arXiv:2605.14867v3 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.14867

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Peicheng Wu [查看邮箱]
[v1] 2026年5月14日星期四 14:16:22 UTC(4,080 KB)
[v2] 2026年9月30日星期三 23:31:03 UTC(2,792 KB)
[v3] 2026年10月25日星期日 19:01:03 UTC(2,794 KB)

来源:arXiv cs.AI · arxiv.org