arXiv cs.AI· Rodrigo Moreira, Larissa Ferreira Rodrigues Moreira, Joberto S. B. Martins, Tereza C. Carvalho, Fl\'avio de Oliveira Silva·· 3 天前AI 评分18
将 AI 推理暴露为 5G 用户面上的电信网络 API：Inference on Demand（IoD）
Exposing AI Inference as a Telco Network API over the 5G User Plane
AI 导读
研究提出 Inference on Demand（IoD），一种按需推理抽象，通过类 CAMARA 的 API 暴露拆分推理，并在 5G 用户面路径上带内传递拆分感知的 tensor 上下文。
正文 · AI 翻译
摘要：将边缘人工智能（AI）推理作为网络服务来支持具有挑战性，因为当前的移动系统可以传输张量，但无法暴露或理解赋予这些张量操作含义的推理上下文。先前的研究通过动态划分、协同推理和拆分流水线来弥补这一差距；然而，这些解决方案仍然受限于应用、对网络无感知或缺乏上下文。这项工作提出了按需推理（IoD），一种按需推理抽象，通过类似 CAMARA 的应用程序接口（API）暴露拆分推理，并在 5G 用户面路径上以带内方式携带拆分感知的张量上下文。我们在基于可编程用户面功能（UPF）的测试平台上使用可划分的视觉 AI 工作负载评估了 IoD，表明自适应拆分选择可以作为面向网络的服务运行，同时避免静态配置的刚性成本特征。结合我们的发现，当服务意图、运行时划分和张量传输对移动数据面可见时，拆分推理就不仅仅是卸载。这为网络原生 AI 服务开辟了一条道路，其中可编程电信基础设施为用户面向的应用协调计算、上下文和连接。
| 评论： | 已被 IEEE 未来网络世界论坛 2026（葡萄牙）会议录接受发表 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.15062 [cs.AI] |
| （或使用 arXiv:2610.15062v1 [cs.AI] 获取此版本） | |
| https://doi.org/10.48550/arXiv.2610.15062 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Rodrigo Moreira [查看电子邮件]
[v1]
2026年10月10日星期六 16:55:26 UTC（475 KB）
来源：arXiv cs.AI · arxiv.org