arXiv cs.AI· Mintong Kang, Zhaorun Chen, Bo Li·· 14 小时前AI 评分34
C-SafeGen：基于声明级流式护栏的可认证安全 LLM 生成
C-SafeGen: Certified Safe LLM Generation with Claim-Based Streaming Guardrails
AI 导读
研究者提出 C-SafeGen，用 Claim-based Stream Decoding（CSD）算法配合保形分析，为 LLM 流式生成提供统计安全风险保证。CSD 集成流式护栏模型监控逐条生成的声明，并对高风险声明触发回溯修正，理论上可将安全风险渐近控制在任意目标水平。实验显示其效果与效率优于现有安全解码方法，并用真实数据验证了风险上界的紧致性。
正文 · AI 翻译
摘要：尽管大语言模型（LLM）在各类应用中展现出卓越能力，它们仍容易生成违反安全法规和政策的内容。为降低这些风险，LLM 会进行安全对齐；然而，它们仍可被有效越狱。现成的护栏模型通常被部署用于监控生成内容，但这些模型主要侧重于检测，而非确保 LLM 输出的安全解码。此外，现有工作缺乏严格的安全保证，而这对 LLM 的通用部署以及可认证地符合监管标准至关重要。本文提出一种基于声明的流式解码（CSD）算法，并结合使用共形分析的统计风险保证框架。具体而言，我们的 CSD 算法集成了一个流式护栏模型，以保护 LLM 生成的顺序声明，并引入回溯机制来修正被标记为高安全风险的声明。我们提供了理论保证，证明 CSD 算法在安全约束下实现了期望的生成分布。此外，我们引入了一个生成风险认证框架，并推导出所提出的 CSD 算法安全风险的高概率上界。我们证明，我们的方法可以将安全风险渐近地控制到任意期望水平。实证评估表明，与最先进的安全解码方法相比，CSD 算法具有有效性和高效性。此外，我们使用真实数据验证了所推导安全风险上界的可靠性和紧致性。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.34961 [cs.AI] |
| （或 arXiv:2610.34961v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.34961 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Mintong Kang [查看电子邮件]
[v1]
2026年10月26日星期一 07:28:16 UTC（741 KB）
来源：arXiv cs.AI · arxiv.org