arXiv cs.AI· Xiaolong Huang, Yinyuan Zhang, Daliang Xu, Yun Ma, Qing Li, Mengwei Xu, Shangguang Wang, Gang Huang, Xuanzhe Liu·· 12 小时前AI 评分31
OrbitWeaver：在低轨卫星上跨中断恢复 VLM 推理
Resuming Vision-Language Inference across Onboard Interruptions
AI 导读
OrbitWeaver 框架通过协同检查点与恢复机制，让低轨卫星上的 VLM 推理在断电、热约束或故障重启后保留进度并继续执行。其阶段感知检查点按视觉编码、语言模型 prefill 与解码的状态生命周期选择恢复边界，依赖感知动态恢复在层与 token-chunk 维度调度部分完成状态。
正文 · AI 翻译
摘要：在低地球轨道卫星上执行视觉语言模型（VLM）能够灵活处理观测数据，而无需先将其下行传输至地面。然而，在商用现成载荷上，一个请求可能跨越多个执行窗口：电源与热约束、故障触发的重启以及相互竞争的载荷需求，都可能在推理完成之前将其中断。每次关机都会丢弃易失性激活值和 KV 缓存，迫使未受保护的请求在重启后重复工作。
我们提出 OrbitWeaver，这是一个通过协同检查点与恢复机制在机载中断期间保留 VLM 推理进度的框架。其阶段感知检查点机制根据视觉编码、语言模型预填充和解码的状态生命周期与计算特征来选择恢复边界，在存储流量与重计算之间取得平衡。其依赖感知动态恢复机制在层维度和 token 块维度上调度部分完成状态的恢复。通过将检查点与权重读取同重计算重叠，它降低了重启延迟；恢复规划器在其调度模型下于 100 ms 内计算出最优执行顺序。
在卫星载荷硬件上使用在轨遥测轨迹进行的实验表明，与所评估的基线相比，端到端加速最高达 4.07 倍，SSD 写入量减少 3.56 倍。在两颗低地球轨道卫星上为期 72 小时的部署表明，OrbitWeaver 能够在反复的总线强制关机中保留推理进度并恢复执行。
| 主题： | 分布式、并行与集群计算（cs.DC）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.29183 [cs.DC] |
| （或 arXiv:2610.29183v1 [cs.DC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29183 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Xiaolong Huang [查看邮箱]
[v1]
2026年10月21日星期三 04:14:43 UTC（698 KB）
来源：arXiv cs.AI · arxiv.org