arXiv cs.CL· Georgios Koutidis, Nikolaos Kekatos, Tom Nianios, Alexios Lekidis·· 10 天前AI 评分27
基于 NeMo-Guardrails 代理的 SIEM/XDR 受限动作 AI 修复方案
Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy
AI 导读
研究提出一种受限动作架构，通过 SIEM/XDR 控制平面将 LLM 输出限制在封闭意图词表中，并由 NeMo-Guardrails 代理包裹 SOC 分析 LLM，在 SOC 专用对抗语料上把注入召回率从 25.0% 提升至 94.5%，误报率 0.1%。
正文 · AI 翻译
摘要：信息技术与运营技术的安全运营中心（SOC）都面临同一个事件响应难题：大量相互关联的告警涌入，而分析师人手严重不足。大语言模型（LLM）正越来越多地被提议作为推理引擎，用于对告警进行分诊，并在自主部署中发出命令，在生产主机上封禁 IP、终止进程或隔离文件。这种耦合引入了一种新风险：单个对抗性告警可能通过 LLM 的推理变成一条远程代码路径，导致其建议某项操作，而 SOC 随后执行该操作。我们提出一种受限动作架构，包含两个协同层：（i）一个 SIEM/XDR 控制平面，将修复措施锚定到相关联的主机事件，并将 LLM 的输出限制在一个封闭的意图词汇表内，其模板化命令由轻量级端点代理执行，并由参数验证器兜底；（ii）一个 NeMo-Guardrails 代理，用输入和输出护栏策略包裹 SOC 分析师 LLM，并针对我们发布的 SOC 专用对抗语料库进行开箱即用评估。现成代理将注入召回率从 25.0% 提升至 94.5%，误报率为 0.1%，一次实弹红队演练证实，在任何命令跨越信任边界之前，封闭意图词汇表和参数验证器已遏制住所观察到的 LLM 失效模式。作为一种架构适配（尚不是经过实测的运营技术部署），受限动作特性适合关键基础设施环境，因为在这些环境中，错误的修复措施会带来物理后果，而不仅仅是运营后果。该循环最好以人在回路或延迟方式运行：实测的护栏延迟使在线控制不在考虑范围内。
| 评论： | 7 页，3 幅图，4 张表。已被 2026 年 IEEE 国际网络安全与韧性会议（IEEE CSR 2026）接收 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.09906 [cs.CR] |
| （或 arXiv:2610.09906v1 [cs.CR] 对应本版本） | |
| https://doi.org/10.48550/arXiv.2610.09906 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Georgios Koutidis [查看电子邮件]
[v1]
2026 年 10 月 7 日星期三 12:00:51 UTC（114 KB）
来源：arXiv cs.CL · arxiv.org