arXiv cs.AI· Nikolaos Kekatos, Michael Ioannou, Panagiotis Katsaros, Alexios Lekidis, Theodoros Nestoridis, Tom Nianios, Dimitrios Nikou·· 3 天前AI 评分24
LLM 辅助 ISR 集群的任务级运行时保障：基于验证感知消息结构的三层组合验证框架
Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric
AI 导读
针对 LLM 辅助 ISR 集群中单平台合规动作组合成任务级违规的问题，研究者提出三层（平台/小队/任务）组合式运行时验证框架，将任务策略分解为单智能体与跨智能体切面，并通过验证感知消息结构聚合各平台判定，用安全×完整性双轴代数融合证据、溯源共同触发违规的平台。
正文 · AI 翻译
摘要：LLM 辅助的自主机器人集群正越来越多地被提出用于对抗环境中的协同情报、监视与侦察（ISR）。其日益增多的一类保障失效并非发生在任何单一平台内部，而是跨集群发生：单个合规的动作组合成任务级违规：被禁止的目标被拆分到多个平台以规避单平台限制，或集体预算被悄然超支。单平台护栏从设计上就会漏掉这些，而对抗性通信又让违规隐藏在丢失或延迟的证据之后。我们提出一个三层（平台/小队/任务）组合式运行时验证框架，它将任务策略分解为智能体自身和跨智能体两个方面，在验证感知的消息传递结构上聚合各平台的判定，并用一个证据感知的双轴（安全性 × 完整性）代数将其融合，其溯源会指明共同触发违规的平台。由于该结构使证据丢失和沉默变得可观测，不受支持的否定判定会被降级为显式的未知，而不是报告为任务范围内的全部正常。在一次模拟 ISR 任务中，一个间接提示注入使真实的 LLM 规划器将一项被禁止的收集任务拆分到四个平台，这对每个单平台监视器都不可见，却能被组合式检测到并给出完整溯源；在一次注入故障的测试中，尽力而为的中央监视器会发出静默的虚假全部正常，而验证感知的结构则不会发出任何此类信息。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算机科学中的逻辑（cs.LO）；机器人学（cs.RO） |
| 引用为： | arXiv:2607.23532 [cs.CR] |
| （或 arXiv:2607.23532v3 [cs.CR] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2607.23532 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Nikolaos Kekatos [查看电子邮件]
[v1]
2026年7月26日星期日 08:02:20 UTC（413 KB）
[v2]
2026年7月31日星期五 04:50:20 UTC（413 KB）
[v3]
2026年10月11日星期日 17:38:19 UTC（413 KB）
来源：arXiv cs.AI · arxiv.org