arXiv cs.AI· Shuncheng Jie, Desen Sun, Ri Hong, Yuyang Tian, Hong Zhang, Sihang Liu·· 12 小时前AI 评分31
SAKURA：面向手机端隐私图像编辑的带宽自适应注意力 KV 状态分发架构
SAKURA: Serving Attention Key-Value State Under Rate Adaptation for Private Image Editing on Phones
AI 导读
SAKURA 是一种云边协同架构，在带宽预算下向手机端分发可复用的注意力 KV 状态，用于隐私图像编辑。它采用细粒度 token 重要性感知压缩，并按实时网络带宽为每个分片自适应选择缓存表示，配合流水线运行时重叠传输、重建与端侧执行。
正文 · AI 翻译
摘要：扩散 Transformer 被广泛应用于图像编辑服务。为兼顾效率与隐私，现有系统通常依赖云-端协同。将请求相关的推理保留在设备端，可避免将个人图像和提示词发送到云端。这类工作负载常使用通用模板，例如换脸和虚拟试穿，从而使 KV 状态能够预先计算并在多个请求间复用。然而，这种可复用状态体积庞大，且随模板数量增长，导致在移动设备上存储全部状态不切实际。将其存储在云端可解决容量问题，但缓存传输被置于推理路径上，甚至可能比设备端计算更慢，尤其是在移动网络波动的情况下。
我们提出 SAKURA，一种在带宽预算下向移动设备提供可复用注意力状态的云-边架构。它首先采用细粒度的 token 重要性感知压缩方法，在有限的传输预算下保持图像质量。在运行时，SAKURA 根据网络带宽为每个即将到来的分片自适应选择缓存表示。为实现高效执行，我们开发了一个流水线运行时，将缓存传输和重建与设备端执行重叠进行。我们使用一台 Snapdragon 8 Elite Gen 5 手机，通过三项编辑任务和两个扩散模型评估 SAKURA。与适配 DiT 的 CacheGen 以及设备端生成相比，SAKURA 分别将延迟降低了 1.82 倍和 3.27 倍。与未压缩缓存相比，它还将缓存存储降低了 3.06 倍，同时保持图像质量。
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；网络与互联网架构（cs.NI） |
| 引用为： | arXiv:2610.29733 [cs.SE] |
| （或 arXiv:2610.29733v1 [cs.SE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29733 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Shuncheng Jie [查看邮箱]
[v1]
2026年10月21日星期三 13:35:39 UTC（2,237 KB）
来源：arXiv cs.AI · arxiv.org