跳到正文
arXiv cs.CL· Sabbir Ahmed, Hazem Abbas, Salimur Choudhury·· 11 小时前AI 评分31

轻量级 LLM 在意图到 SLO 翻译中能走多远?

How Far Can Lightweight LLMs Go in Intent-to-SLO Translation?

AI 导读

一项针对 10 个参数量小于 10B 的轻量级开源 LLM 的评估显示,最佳配置在 716 条放置意图上实现 0.943 的严格 F1,并能拒绝 195 条无效意图中的 191 条。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:基于意图的网络(IBN)承诺提供 QoS 保障,即网络根据操作者陈述的目标推导出配置。其第一步是将自然语言意图转换为可执行的服务级别目标(SLO),并以网络状态的实时快照为基础,这一步骤日益依赖大语言模型(LLM)。这些大模型为管理环路增加了成本和能耗,并且通常需要多 GPU、云托管的基础设施。轻量级开源 LLM 能否可靠地接管这一步骤?我们通过对来自 5 个家族的 10 个参数量 <10B 的 LLM 进行五维评估来回答这个问题,评估涵盖 4 种提示设置、716 条放置意图。我们评估翻译性能、意图验证、幻觉、能耗影响以及对多样化表述的鲁棒性。最佳配置以 0.943 的严格 F1 翻译意图,并能在 195 条无效意图中拒绝多达 191 条。在少样本推理下,最强的模型仅在约百分之一的响应中幻觉出不受支持的 QoS 需求,而零样本设置则表现不佳。在不进行推理的情况下,翻译一条意图消耗 0.044-0.148 Wh 的 GPU 能耗,而推理带来的额外能耗对较弱模型是值得的。此外,我们表明,对于表现最佳的模型,现实的重述在 16 种配置中的 15 种降低了无效意图的拒绝率,这使得鲁棒的意图验证成为可靠 IBN 的关键开放挑战。我们的代码和数据可用:此 https URL。
评论: 正在 ICC 2027 审稿中。源代码和数据:此 https URL。(6 页。7 图,3 表)
主题: 网络与互联网架构(cs.NI);计算与语言(cs.CL)
引用为: arXiv:2611.07982 [cs.NI]
  (或 arXiv:2611.07982v1 [cs.NI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.07982

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Sabbir Ahmed [查看电子邮件]
[v1] 2026 年 11 月 5 日星期四 13:12:30 UTC(271 KB)

来源:arXiv cs.CL · arxiv.org