arXiv cs.CL· Haocheng Mei, Yuchuan Tian, Ye Yuan, Chao Xu, Allen Chen, Kai Han, Yunhe Wang·· 2 天前AI 评分34
API-TAIL：通过温度对齐的似然尾部检测 LLM API 中的模型替换
API-TAIL: Detecting Model Substitution in LLM APIs through Temperature-Aligned Likelihood Tails
AI 导读
研究者提出 API-TAIL，一种基于典型性审计的方法，用于检测商业 LLM API 提供商将部分用户请求悄悄路由至更便宜替代模型的行为。该方法先对齐单一有效温度以吸收批次级分布偏移，再根据剩余尾部响应数量是否超过阈值标记端点。在真实商业 API 上评估，API-TAIL 能在多样诚实提供商中可靠控制误报，并以小查询预算检测低比例部分替换，显著优于基于 rank 和 MMD 的审计方法。
正文 · AI 翻译
摘要：商业语言模型 API 仅返回文本，这使得服务提供商可以通过悄悄将一小部分用户请求路由到更便宜的替代模型、却按所宣传的模型计费来降低成本。检测这种部分替换颇具挑战，因为诚实的提供商也会通过未公开的解码与服务选择改变输出分布，例如温度缩放、采样截断、重复与存在惩罚以及默认系统提示，这迫使审计必须针对合法配置构成的复合零假设进行检验，而非单一参考。我们的关键洞察是：这些合法变化主要在整个批次范围内改变响应的典型性，而部分替换则注入在声称模型下仍属异常的个别响应。基于此，我们提出 API-TAIL，一种典型性审计方法：它首先通过将单一有效温度对齐，使被审计批次中标准化惊奇分数居中，从而吸收批次级偏移；随后若剩余尾部响应的数量超过在合法配置间校准得到的阈值，则将该端点标记为异常。在真实商业 API 上的评估表明，API-TAIL 能在多种诚实提供商间可靠控制误报，同时以较小的查询预算检测出即使低比率的部分替换，显著优于在相同复合校准下丧失检测能力的现有基于秩和 MMD 的审计方法。
| 评论： | 项目页面：此 https URL |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36801 [cs.LG] |
| （或 arXiv:2610.36801v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36801 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Haocheng Mei [查看邮箱]
[v1]
2026年10月27日 星期二 08:04:04 UTC（34 KB）
来源：arXiv cs.CL · arxiv.org