arXiv cs.AI· Chuming Wei, Churui Yang, Zihan Zhang, Ruien Li, Wusheng Zhang, Yan Zhang, Guangwen Yang·· 12 小时前AI 评分34
ADTGuard：面向大语言模型流式推理的自适应深度-时间防护机制
ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models
AI 导读
ADTGuard 通过逐 token 释放前检测、渐进式细化 token 级训练目标并自适应选择观测层，实现 LLM 流式生成中的实时安全防护。
正文 · AI 翻译
摘要：大型语言模型（LLM）能够针对多样化的用户请求生成流畅的回复，但流式输出可能在生成完成之前就将有害内容暴露给用户。现有防护措施在此场景下面临两个局限。第一，在回复或分块边界进行事后审核会延迟干预，若内容在验证前即被释放，便存在有害暴露的风险。第二，即便采用 token 级检测，粗粒度的回复级监督并未指明有害内容从何时开始，而固定层的读出也可能遗漏其他深度上的相关安全信号。为解决这些局限，我们提出 ADTGuard，它在释放每个 token 之前进行检查，逐步细化 token 级训练目标，并针对当前前缀自适应地选择层。ADTGuard 通过深度-时间安全动态（DTSD）对跨深度与跨时间的风险进行建模，DTSD 在每个 token 处整合各层的安全证据，并据此引导风险在后续 token 上的累积。为使观测层的选择适应当前前缀，我们提出因果深度路由器（CDR）。在仅有回复级标签可用的情况下，我们进一步开发了风险起始目标细化（RTR），为上述两个组件逐步构建 token 级训练目标。通过在多个安全基准上的大量实验，我们证明 ADTGuard 始终取得强劲的流式检测性能，与最先进的防护措施持平或超越之，同时仅需 16M 可训练参数，并保持有竞争力的逐 token 延迟。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.36574 [cs.AI] |
| （或 arXiv:2610.36574v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.36574 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yan Zhang [查看邮箱]
[v1]
2026年10月27日 星期二 03:30:28 UTC（539 KB）
来源：arXiv cs.AI · arxiv.org