arXiv cs.AI· Yichi Zhang, Zhenxiang Huang, Yuyang Zhang, Yuchen Yang·· 3 天前AI 评分24
SCRouter：面向安全的大语言模型路由如何按查询选择模型与预算
Rethinking Quality in Large Language Model Routing: Security-Conditioned Model-and-Budget Selection
AI 导读
针对现有 LLM 路由器只用单一质量指标、难以兼顾普通查询与安全敏感查询的问题，研究者提出 SCRouter，分别预测响应的效用与安全性，并用一个小型探针为每个查询确定两者权重，再结合成本选择模型与 token 预算。
正文 · AI 翻译
摘要：大语言模型（LLM）路由器通过为每个查询选择调用哪个模型以及授予其多少输出 token 来降低服务成本。现有路由器使用单一质量指标对模型-预算动作进行排序。这对混合工作负载并不适用。对于普通查询，好的回答是正确且有用的（效用）；对于安全敏感的查询，好的回答是拒绝有害请求或抵御恶意指令（安全性）。这两个目标偏好不同的模型和预算。
我们提出 SCRouter，一个学习何时优先考虑安全性以及如何分配 token 预算的路由器。对于每个模型-预算对，它估计响应在预算内完成的概率。它利用该概率分别预测效用和安全性。一个小型探针决定如何为每个查询对这两个预测进行加权。然后 SCRouter 通过权衡加权后的效用和安全性相对于成本来选择模型和预算。我们还构建了 SCRouterBench，一个包含 38,869 条效用和安全性查询的基准，涵盖九个安全维度，每条查询都在 12 个模型和 12 个预算的全部 144 种组合下作答，另有 2,753 条域外查询。SCRouter 在域内将基线提升 13-29 分，在域外提升 19-23 分。
| 学科： | 人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.18566 [cs.AI] |
| （或 arXiv:2610.18566v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18566 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yichi Zhang [查看邮箱]
[v1]
2026年10月13日星期二 15:36:57 UTC（412 KB）
来源：arXiv cs.AI · arxiv.org