arXiv cs.AI· Thiago Sandoval, Ufuk Topcu·· 10 天前AI 评分22
RCV：面向安全分类器适配与监控的正确性估计方法
Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers
AI 导读
研究者提出 Regime-Conditional Verification（RCV），一种无需重训即可适配现成安全分类器的轻量封装，通过分类器内部表征估计预测与部署方策略不一致的概率并选择性纠正。
正文 · AI 翻译
摘要：随大语言模型部署的安全分类器常常因两个原因而失效：其决策反映的是训练期间学到的策略，而非部署者期望的策略；并且随着部署流量演变，其性能会下降。我们提出 Regime-Conditional Verification（RCV），一种轻量级封装器，可在不重新训练的情况下适配现成的安全分类器。RCV 从分类器的内部表示中估计每个预测与部署者策略不一致的概率，并有选择地纠正可能错误的预测。同样的正确性估计还提供了一种无需标签的信号来检测分布偏移，从而形成一个维护循环：更新正确性估计层，并且仅当在标签预算内修复失败时才诉诸分类器微调。在三个现成安全分类器和两个基准数据集上，RCV 在每一种分类器-数据集组合中都提升了对部署者策略的遵循程度，在未修改底层分类器的情况下，捕获了此前漏检的不安全内容中的高达 0.81。在一项包含十个攻击活动的部署研究中，每个活动都是一个被排除在 RCV 训练之外的危害类别，RCV 在专门的注入面板中检测到每一个活动；在维护普查中，大多数漂移事件无需更新分类器即可修复，微调仅保留给剩余事件。
| 评论： | 18 页，含技术附录，6 幅图。项目页面和代码：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR）；机器学习（cs.LG） |
| 引用为： | arXiv:2608.14089 [cs.AI] |
| （或 arXiv:2608.14089v3 [cs.AI] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2608.14089 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Thiago Costantin Sandoval [查看电子邮件]
[v1]
2026 年 8 月 14 日星期五 08:50:51 UTC（239 KB）
[v2]
2026 年 9 月 20 日星期日 10:04:42 UTC（238 KB）
[v3]
2026 年 10 月 6 日星期二 15:35:38 UTC（241 KB）
来源：arXiv cs.AI · arxiv.org