arXiv cs.AI· Cynthia Dong, Hong Jia, Young D. Kwon, Georgios Rizos, Cecilia Mascolo·· 11 小时前AI 评分29
LeanTTA：面向边缘设备的无反向传播、无状态量化测试时自适应方法
LeanTTA: A Backpropagation-Free and Stateless Approach to Quantized Test-Time Adaptation on Edge Devices
AI 导读
LeanTTA 是一个无需反向传播、无状态的量化测试时自适应框架，通过动态更新归一化统计量降低计算开销，不依赖大批次和历史数据。该方法首次将部分自适应与量化模块融合结合，在多种传感器模态上相比 SOTA TTA 方法实现 15.7% 的错误率下降，ResNet18 峰值内存仅 11.2MB，设备端自适应速度在正常推理速度的一个数量级内。
正文 · AI 翻译
摘要：尽管在边缘设备上部署机器学习模型有许多优势，但移动平台的资源限制、环境的动态特性，以及训练数据与真实场景数据分布之间的差异，都使此类部署充满挑战。当前的测试时自适应方法往往内存占用高，且在设计上不兼容量化，也不适合部署在低资源设备上。为应对这些挑战，我们提出 LeanTTA，这是一种面向边缘设备、专为量化测试时自适应设计的新型无反向传播、无状态框架。我们的方法通过动态更新归一化统计量而不进行反向传播，将计算成本降至最低，使 LeanTTA 摆脱了依赖大批次和历史数据的常见陷阱，从而让我们的方法对真实部署场景具有鲁棒性。我们的方法是首个通过将部分自适应与量化模块融合相结合来进一步提升计算收益的方法。我们在多种传感器模态上验证了该框架，结果表明其相较最先进的 TTA 方法有显著提升，包括误差降低 15.7%、ResNet18 的峰值内存占用仅为 11.2MB，以及在设备上以正常推理速度一个数量级以内的快速自适应。LeanTTA 为在边缘部署中实现精度与系统效率之间的恰当权衡提供了稳健的解决方案，应对了数据有限和运行条件多变所带来的独特挑战。
| 注释： | 8 页，5 幅图 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2503.15889 [cs.LG] |
| （或 arXiv:2503.15889v2 [cs.LG] 为本版本） | |
| https://doi.org/10.48550/arXiv.2503.15889 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Cynthia Dong [查看邮箱]
[v1]
2025年3月20日星期四 06:27:09 UTC（1,385 KB）
[v2]
2026年10月15日星期四 19:52:46 UTC（677 KB）
来源：arXiv cs.AI · arxiv.org