arXiv cs.AI· Tiehan Cui, Peipei Liu, Yanxu Mao, Gaosheng Wang, Mingzhe Xing, Datao You·· 11 小时前AI 评分31
NEXUS：联合学习安全约束与动作模型，实现安全稳健的具身规划
NEXUS: Learning Safety Constraints and Action Models for Safe and Robust Embodied Planning
AI 导读
NEXUS 是一个模块化神经符号框架，同时维护 PDDL 领域模型与 LTL 安全规范，用执行失败修复动作模式、将检测到的危险转化为可复用 LTL 约束。在 SafeAgentBench 评测集上，NEXUS 在安全任务完成与不安全任务拒绝之间取得最佳整体权衡，并在越狱攻击下保持低违规率。消融实验证实 PDDL 领域精化与 LTL 约束积累具有互补收益。
正文 · AI 翻译
摘要：大语言模型（LLM）使具身智能体能够根据自然语言指令进行规划，但其动作可能在物理上不可行或具有危险性。现有的神经符号学习器主要改进执行模型，而形式化安全方法则获取或强制执行安全约束。这种分离限制了对执行修正和安全知识在任务间的复用。我们提出 NEXUS，一个模块化的神经符号框架，它联合维护 PDDL 领域模型和 LTL 安全规范。执行失败被用于修复动作模式，而检测到的危险则通过带等价共识的分层语义与翻译采样转化为可复用的 LTL 约束。累积的约束在符号搜索过程中通过 LTL 进展来强制执行；比较受约束与无约束的搜索结果，可以区分物理不可达性与安全导致的拒绝。在 SafeAgentBench 评估集上的实验表明，NEXUS 在安全任务完成与不安全任务拒绝之间取得了最佳的整体权衡，同时在越狱攻击下保持较低的违规率。消融实验证实了 PDDL 领域精化与 LTL 约束累积的互补优势。
| 学科： | 人工智能（cs.AI）；机器人学（cs.RO） |
| 引用为： | arXiv:2605.09387 [cs.AI] |
| （或 arXiv:2605.09387v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.09387 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tiehan Cui [查看邮箱]
[v1]
2026年5月10日周日 07:25:38 UTC（2,810 KB）
[v2]
2026年10月16日周五 05:59:50 UTC（3,852 KB）
来源：arXiv cs.AI · arxiv.org