arXiv cs.AI· Arunkumar V, Gangadharan G. R., S. Senthilkumar·· 4 小时前AI 评分31
ConfGuard:面向预测性维护 LLM 智能体的物理约束参考监视器
ConfGuard: a physics-grounded reference monitor for predictive-maintenance large-language-model agents
AI 导读
ConfGuard 是一款带物理约束策略的参考监视器,用于拦截预测性维护 LLM 智能体面临的文档注入与传感器扰动两类攻击。在全部 10,196 个 C-MAPSS 测试窗口上,它将隐蔽攻击者对健康资产的攻击成功率从 0.529 降至 0.046,把失效资产压制率从 0.151 降至 0,干净窗口误报升级率为 0.027(目标 0.05)。
正文 · AI 翻译
摘要:大语言模型智能体现已闭合工业预测性维护回路,读取传感器窗口、检索规程并派发工单。两条攻击通道在此交汇:检索文档中注入的文本可劫持决策,而有界传感器扰动可破坏其背后的剩余使用寿命估计。近期的智能体防御措施管控数据来源与工具权限,但无法判断预测性量值在物理上是否合理。ConfGuard 是一种带有物理依据策略的参考监视器。其保形监视器以资产已承认的历史为锚,依据退化物理规律检验每个预测:有上限的剩余寿命永不上升,且每周期至多下降一个周期。在整个资产轨迹上校准其阈值,使操作员能够设定运行监视器对干净资产窗口升级的预期比例。物理策略验证器将智能体的维护紧迫性决策与确定性策略从同一区间得出的决策进行比对。在全部 10,196 个 C-MAPSS 测试窗口上,该监视器将隐蔽攻击者对健康资产的触及范围从 0.529 降至 0.046,并消除对失效资产的压制(0.151 降至 0),对干净窗口的升级率为 0.027,低于 0.05 的目标,而其所取代的固定物理范围则使两种攻击均保持敞开。在 Qwen3-14B 规划器背后,组合监视器将紧迫性类别注入控制在 0.00,将通用传感器攻击控制在 0.12,而经过防御的提示词分别为 0.29 和 0.54。自适应攻击者在 0.504 的窗口上击败马氏距离检测器,在 0.485 的窗口上击败对抗训练。我们报告了一类该投影未能覆盖的攻击。
| 评论: | 24 页,5 幅图 |
| 主题: | 人工智能(cs.AI);密码学与安全(cs.CR);机器学习(cs.LG) |
| 引用为: | arXiv:2611.22288 [cs.AI] |
| (或 arXiv:2611.22288v1 [cs.AI] 为本版本) | |
| https://doi.org/10.48550/arXiv.2611.22288 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:G R Gangadharan [查看邮箱]
[v1]
2026 年 11 月 17 日星期二 06:40:49 UTC(269 KB)
来源:arXiv cs.AI · arxiv.org