arXiv cs.AI· Sicong Liu, Fengmin Wu, Yuan Gao, Bin Guo, Zimu Zhou, Hongkai Wen, Zhiwen Yu·· 4 小时前AI 评分29
AdaFlowLite:面向异步移动数据的可扩展非阻塞推理
AdaFlowLite: Scalable and Non-blocking Inference on Asynchronous Mobile Data
AI 导读
AdaFlowLite 提出面向异步分布式多模态数据的“机会式”推理,部分数据到达即开始推理,无需等待全部模态。该方法采用多模态轻量 Swin Transformer(MMLST)实现实时灵活的数据补全,无需重训练即可适配不同模态与下游任务。实验显示推理延迟最多降低 80.4%、准确率最多提升 62.1%,能耗降低近 50%,还可用于预处理异步数据以增强 LLM 表现。
正文 · AI 翻译
摘要:配备 LiDAR 和摄像头等众多传感器的移动设备的兴起,推动了多模态深度智能在智能座舱和驾驶辅助等分布式感知任务中的应用。然而,由于模态大小和网络动态的差异,移动感知数据的到达时间各不相同,这可能导致延迟(如果等待慢速数据)或精度下降(如果在未等待的情况下进行推理)。此外,移动系统的多样性和动态特性加剧了这一挑战。为此,我们提出转向对异步分布式多模态数据进行\textit{机会式}推理,使部分数据一到达即可进行推理。现有方法侧重于优化模态一致性和互补性(称为模态亲和性),但缺乏在开放世界移动环境中控制这种亲和性的\textit{计算}方法。% \sysname 率先提出了在移动场景下利用基于层次分析的归一化矩阵来构建结构化跨模态亲和性的方法。该方法适应模态的多样性和动态性,可泛化到不同类型和数量的输入。\sysname 采用多模态轻量级 Swin Transformer(MMLST),可实现实时且灵活的数据填补,无需重新训练即可适应各种模态和下游任务。实验表明,\sysname 将推理延迟显著降低最多 80.4\%,准确率提升最多 62.1\%,同时能耗降低近 50\%,优于现有方法。此外,该方法还可增强 LLM 预处理异步数据的性能。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2611.21691 [cs.LG] |
| (或 arXiv:2611.21691v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.21691 由 DataCite 颁发的 arXiv DOI(待注册) |
|
| 相关 DOI: | https://doi.org/10.1109/TMC.2025.3582060
链接到相关资源的 DOI |
提交历史
来自:Fengmin Wu [查看电子邮件]
[v1]
2026年11月16日星期一 07:55:57 UTC(7,647 KB)
来源:arXiv cs.AI · arxiv.org