arXiv cs.AI· Junchi Liao·· 11 小时前AI 评分31
LLM 安全监控失效：框架边界演进中的证据路径断裂
Monitor-Validity Failures: LLM Safety Evidence Paths at Evolving Framework Boundaries
AI 导读
研究用 canary contracts 协议在公开框架修复中确认了 18 例证据路径失效，覆盖 11 个 LLM 或智能体安全项目组、4 个实现生态。其中 9 例属既有边界修复、8 例为新表面策略覆盖缺口、1 例为纯边界证据问题，14 例触及 E1 执行边界。这些案例表明，即使正则检测器已返回命中，框架仍可能在阻断决策前丢弃该证据，普通应用行为不受影响而安全证据路径已错过决策点。
正文 · AI 翻译
摘要：现代 LLM 应用依赖运行时监控器来检查工具调用、追踪、流、检测器输出和验证器输入。这带来了一个接口可靠性问题：框架路径可能仍在运行，但策略相关证据从未到达其决策点。在一个代表性案例中，正则检测器返回了正匹配，但框架在阻断决策之前将该结果搁置。这与越狱和检测器错误不同，因为证据已被识别，却与执行环节脱节。我们通过金丝雀契约研究这种修复边界特征：父/固定确认单元将已知载荷仅放置在变更后的证据表面上，并针对动作边界案例记录监控器可见性与下游决策。将该协议应用于公开框架修复，我们在 11 个 LLM 或智能体安全项目组和四个实现生态系统中确认了 18 个证据路径故障。九个是既有边界修复，八个是新增表面策略覆盖缺口，一个是仅边界证据案例。十四个达到 E1 执行边界：七个原生动作结果、六个配置执行边界和一个合成消费者后果。其余案例影响验证器、安全提示或可观测性通道。这些案例形成载体、适配器、权限和表面家族，并展示了普通应用行为如何保持完好，而安全特定证据路径却错过其决策。精确修订、确定性结果、阴性对照和冻结的前瞻性审计记录了确认规则。因此，监控器假设需要在框架演进的模式、流、工具和适配器处进行回归测试。
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.23362 [cs.AI] |
| （或 arXiv:2610.23362v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23362 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Junchi Liao [查看电子邮件]
[v1]
2026 年 10 月 16 日星期五 12:09:26 UTC（276 KB）
来源：arXiv cs.AI · arxiv.org