arXiv cs.AI· Zhoutong Ye, Chengwen Zhang, Zixuan Wang, Xufeng Jian, Zhe He, Qingyang Wan, Xutong Wang, Jiaqi Liu, Mingze Sun, Yu Mei, Chun Yu, Yuanchun Shi·· 11 小时前AI 评分31
IMUDINO:面向惯性感知的自蒸馏基础模型
IMUDINO: Self-distilled Foundation Model for Inertial Sensing
AI 导读
IMUDINO 是首个在人类活动识别、健康、动作捕捉与里程计等多类惯性感知任务上均取得有竞争力表现的基础模型。它把 DINO 自监督学习范式迁移到惯性数据,用保持语义的运动变换模拟运动模式与传感器配置变化,并采用带频率感知位置编码的纯 Transformer 编码器,原生支持可变输入长度与采样率。该模型学习到的全局与稠密特征可跨用户、传感器配置、任务乃至机器人里程计中的不同本体泛化。
正文 · AI 翻译
作者:Zhoutong Ye、Chengwen Zhang、Zixuan Wang、Xufeng Jian、Zhe He、Qingyang Wan、Xutong Wang、Jiaqi Liu、Mingze Sun、Yu Mei、Chun Yu、Yuanchun Shi
摘要:我们提出 IMUDINO,这是首个用于惯性传感的基础模型(FM),在人体活动识别(HAR)、健康、动作捕捉和里程计等多种传感任务上均取得了有竞争力的性能。此前的惯性基础模型往往只关注惯性传感的某一个子领域,有时甚至不如最先进的监督方法(例如在 HAR 中),使其适用范围远窄于视觉和自然语言领域的基础模型。此外,它们通常要求固定的输入长度和采样率,并且对未见过的传感器位置泛化能力较差。为了构建通用的惯性传感基础模型,我们通过一组保持语义的运动变换,将 DINO 自监督学习(SSL)范式适配到惯性数据上,这些变换模拟了运动模式和传感器设置的变化。在模型架构上,我们使用带有频率感知位置编码的普通 Transformer 编码器,原生支持可变的输入长度和采样率。这一简单的设置被证明在学习可跨用户、传感器设置、任务以及在机器人里程计场景下跨具身泛化的全局特征和稠密特征方面非常有效。我们希望 IMUDINO 能作为惯性传感的骨干模型,并推动通用惯性基础模型的发展。
| 评论: | 官方仓库:此 https URL |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2611.07437 [cs.LG] |
| (或 arXiv:2611.07437v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.07437 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Zhoutong Ye [查看邮箱]
[v1]
2026年11月5日星期四 04:35:16 UTC(12,177 KB)
来源:arXiv cs.AI · arxiv.org