arXiv cs.AI· Roland Stolz, Vitus L\"untzel, Romain Pascual, Eric Sax, Matthias Althoff·· 10 小时前AI 评分21
通过模型一致性保障系统演化下受屏蔽的数据驱动控制器安全
Keeping Shielded Data-Driven Controllers Safe Under System Evolution via Model Consistency
AI 导读
针对数据驱动控制器在系统演化时安全屏蔽假设可能失效的问题,研究提出模型驱动方法,将控制器与安全屏蔽作为一等模型,与系统模型统一集成到虚拟单一底层模型(V-SUM)中。系统演化被描述为关联模型的变化,通过一致性检查持续评估安全保证,不一致时由一致性保持规则自动更新模型并恢复有效安全屏蔽。在独轮车系统的到达-避障任务上,该方法在系统变化下有效维持了安全保证。
正文 · AI 翻译
摘要:信息物理系统(CPS)越来越多地包含数据驱动的控制器,鉴于其黑盒特性,这引发了安全担忧。一种常见的缓解措施是通过控制器周围的防护罩来强制系统安全,该防护罩基于对物理系统的假设来限制输入。然而,这些假设通常是固定的,并且可能随着系统的演进(在开发过程中或由于组件退化)而变得无效,可能导致不安全行为。我们以模型驱动的方法解决这一局限,该方法将数据驱动控制器和安全防护罩视为一等模型,与系统模型一起集成到虚拟单一底层模型(V-SUM)中。我们将系统演进描述为相关模型的变化,从而使一致性检查能够对安全保证进行持续评估。在出现不一致的情况下,一致性保持规则会自动更新模型并恢复有效的安全防护罩。我们在独轮车系统的到达-避障任务上评估了我们的方法。结果表明,一致性驱动的演进在系统变化下有效地维持了安全保证,并为评估和恢复性能提供了有原则的基础。
| 学科: | 系统与控制(eess.SY);人工智能(cs.AI) |
| 引用为: | arXiv:2611.24428 [eess.SY] |
| (或 arXiv:2611.24428v1 [eess.SY] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.24428 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Roland Stolz [查看电子邮件]
[v1]
2026年11月18日星期三 13:45:39 UTC(121 KB)
来源:arXiv cs.AI · arxiv.org