arXiv cs.AI· Xingru Zhou, Luis Sentis, Aarti Choudhary·· 10 天前AI 评分24
SAFESHIELD：面向小语言模型部署时安全的决策组织框架
SAFESHIELD: A Decision-Organization Framework for Deployment-Time Safety of Small Language Models
AI 导读
SAFESHIELD 是一个面向小语言模型部署时安全的决策组织框架，将安全决策拆分为准入、路由、证据与放行四类职责，并把已提交决策记录为可审计的 Decision Traces。协调消融实验显示，移除准入门控会显著增加误放行，而放行决策缺少上游证据时放行准确率从 96.0% 降至 69.5%。该工作已被 IEEE TPS 2026 应用赛道接收。
正文 · AI 翻译
摘要：语言模型在部署时的安全性通常通过运行时防护栏来实现，例如输入审核、路由、检索验证和输出过滤。现有的部署框架为这些功能提供了越来越强大的机制，但对其产生的安全决策应如何被明确组织、协调和审计提供的指导有限。我们将部署时安全性表述为一个决策组织问题，包含两个要素：面向责任的安全决策分解，以及它们之间的显式协调。我们在 SAFESHIELD 中实例化了这一表述，这是一个面向小型语言模型的部署时安全系统，它组织四项反复出现的决策职责（准入、路由、证据和发布），并将已提交的决策记录在可审计的决策轨迹中。我们通过机制级实验、聚合阶段消融、受控协调消融以及面向部署的压力测试套件来评估 SAFESHIELD。机制级结果表明，所实例化的防护栏提供了决策过程所需的能力，而聚合消融表明，随着周围安全组织的移除，端到端安全性出现显著下降。更重要的是，专门的协调消融在保留参与防护栏机制的同时，选择性地切断它们之间的依赖关系：移除准入门控会大幅增加错误发布，而向发布决策隐瞒上游证据会使发布准确率从 96.0% 降至 69.5%。这些结果提供了系统级证据，表明部署时安全性不仅取决于单个防护栏的能力，还取决于其决策如何被组织和协调。
| 评论： | 被 IEEE TPS 2026 应用轨道接收。12 页 |
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.07276 [cs.SE] |
| （或 arXiv:2610.07276v1 [cs.SE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07276 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Xingru Zhou [查看电子邮件]
[v1]
2026 年 10 月 5 日星期一 19:16:05 UTC（1,233 KB）
来源：arXiv cs.AI · arxiv.org