arXiv cs.AI· Zhimin Li, Pan Wang, Jingxian Chen, Yuantao Tang, Qian Lou, Jingtong Hu·· 3 天前AI 评分31
SAGE:智能眼镜上高效的受保护视觉语言推理
SAGE: Efficient Protected Vision-Language Inference on Smart Glasses
AI 导读
SAGE 是一个面向智能眼镜的硬件感知受保护 VLM 推理框架,将原始图像与未受保护的视觉 token 留在可信设备上,并把受保护表示压缩为 256 维 INT8 数据包后再传输。
正文 · AI 翻译
摘要:智能眼镜是视觉语言助手的一个有前景的平台,但私有拆分推理仍然成本高昂:在传输前保护视觉表示并不能消除设备端视觉编码、宽保护令牌或硬件无感知执行的成本。我们提出 SAGE(Smart-glasses-Aware Guarded Encoding,智能眼镜感知保护编码),一个面向智能眼镜的高效受保护 VLM 推理的硬件感知框架。SAGE 将原始图像和未受保护的视觉令牌保留在可信设备上,降低视觉输入成本,执行形状特化的 INT8 图,并在传输前将受保护表示压缩为紧凑的 256 维 INT8 数据包。与仅针对标称模型大小优化的效率方法不同,SAGE 使用下游答案质量以及在真实 Mentra Live 眼镜上测得的延迟、内存和热行为来选择其工作点。在匹配的 Qwen 工作负载上,SAGE 将眼镜推理延迟降低 39.18%,设备传感器温升降低 21.91%,受保护数据包大小降低 96.56%,同时保留受保护参考的 85.62% 宽松效用和可比的提示遏制。直接的眼镜到手机测试成功传输全部 192 个数据包,并将数据包加确认的中位时间从 71.3 毫秒降低到 10.0 毫秒。紧凑的受保护接口还可迁移到另外四个 VLM 系列。这些结果表明,私有可穿戴 VLM 推理必须在表示保护、通信和真实设备执行方面联合优化,而不能仅通过模型压缩来实现。
| 评论: | 18 页,9 张图 |
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI);计算工程、金融与科学(cs.CE) |
| 引用为: | arXiv:2610.14089 [cs.CR] |
| (或 arXiv:2610.14089v1 [cs.CR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.14089 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Zhimin Li [查看电子邮件]
[v1]
2026 年 10 月 8 日星期四 17:36:14 UTC(4,793 KB)
来源:arXiv cs.AI · arxiv.org