arXiv cs.AI· Anxhelo Diko, Jieyu Lin, Stefano Ambrogio, Ziyun Li, Mahmoud Assran, Th\'eo Moutakanni, Barbara De Salvo, Chiao Liu·· 3 天前AI 评分26
EV-JEPA：面向任意设备与跨设备推理的弹性 V-JEPA
EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
AI 导读
研究者提出 Elastic V-JEPA（EV-JEPA），一个模型训练一次即可在从智能眼镜到服务器的异构设备上部署，宽度可重构并原生支持跨设备切分。其核心 Transition-Aware Triplet Training（T3）每步选取窄、宽两种宽度并训练三条路径，使同一权重同时学会单设备与跨设备执行。
正文 · AI 翻译
摘要：像 V-JEPA 这样的基础模型正越来越多地部署在横跨智能眼镜、手机、机器人和服务器的异构边缘-云连续体上。然而，它们通常被训练为绑定到单一设备的刚性、固定容量网络，既不支持可重构的计算预算，也不支持协同执行。现有方法一次只能解决一个维度：可裁剪（slimmable）和基于 NAS 的方法提供宽度弹性，但假设单设备推理；而拆分计算方法仅支持固定分区和静态容量的跨设备协作。我们提出 Elastic V-JEPA（EV-JEPA），一个只需训练一次即可部署到连续体上任何位置的单一模型。其宽度可重构，并且原生支持跨异构设备分区。其核心是过渡感知三元组训练（Transition-Aware Triplet Training，T3）。每一步我们选取一个窄宽度和一个宽宽度，并训练三条路径：每个宽度单独一条，外加一条早期层以窄宽度运行、其余层以宽宽度运行的混合路径。混合切换点即一个设备向另一个设备交接之处，因此同一组权重可同时学习单设备与跨设备执行。在各种基准测试中，EV-JEPA 与独立训练的基线相差不超过 1 个准确率点，同时相比先前的弹性训练方法提升最多达 11 个准确率点。窄到宽的跨设备混合执行可恢复到最高容量独立模型 1.1 个点以内，并支持多对一、任意对任意以及可变拆分配置。最后，我们表明弹性原则可超越主干网络，扩展到一种弹性 token 压缩机制，该机制可在设备端计算、延迟和准确率之间提供可控的权衡。
| 学科： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.14324 [cs.CV] |
| （或本版本的 arXiv:2610.14324v1 [cs.CV]） | |
| https://doi.org/10.48550/arXiv.2610.14324 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jieyu Lin [查看邮箱]
[v1]
2026年10月9日星期五 21:07:14 UTC（1,901 KB）
来源：arXiv cs.AI · arxiv.org