arXiv cs.AI· Hyunse Lee, Jiwoo Jeong, Haneul Lee, Kyochul Jang, Youngjae Yu, Woojin Lee·· 3 天前AI 评分33
SafeBranch：面向具身智能体的分支对安全对齐框架
SafeBranch: Branch-Pair Safety Alignment for Embodied Agents
AI 导读
SafeBranch 通过环境回滚从智能体自身的不安全轨迹中定位安全关键步骤，构造仅在该步骤有差异的分支对进行安全对齐，训练后的智能体部署时无需 critic 参与。在 IS-Bench、SafetyALFRED 及未见任务和物体的分布外变体上，该方法提升了安全任务完成率，在未见物体变体上安全成功次数约为未训练基线的十倍。
正文 · AI 翻译
摘要：基于视觉语言模型的具身智能体能够完成指定任务，但在此过程中常常违反安全约束，这一问题近来被定义为交互安全。训练此类智能体安全行动十分困难，因为安全与任务成功是不同的目标，而且安全仅出现在轨迹中少数几个安全关键步骤上。标准监督是不够的：模仿安全轨迹只教会行为，却不解释其为何安全；而对比任意的安全与不安全轨迹，则会把安全信号与无关差异混在一起。我们提出 SafeBranch，一个通过分支对来对齐具身执行者安全性的框架，这些分支对由执行者自身的不安全 rollout 经环境回滚构建而成。SafeBranch 将每个不安全 rollout 回滚到导致违规的安全关键步骤，向执行者查询一个安全的替代动作，并将原始动作与替代动作配对，使两个分支仅在该步骤上不同。训练后的执行者在部署时能够安全行动，且循环中无需 critic。在 IS-Bench、SafetyALFRED 以及包含未见任务和物体的分布外变体上，它提升了安全任务完成率，在未见物体变体上实现的安全成功次数约为未训练基线的十倍。项目页面：此 https URL。
| Comments: | 26 页。被 EMNLP 2026 Findings 接收。已更新为 camera-ready 版本 |
| Subjects: | 人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；机器人学（cs.RO） |
| Cite as: | arXiv:2608.19729 [cs.AI] |
| （或 arXiv:2608.19729v2 [cs.AI] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2608.19729 arXiv 颁发的 DOI，经由 DataCite |
Submission history
来自：Hyunse Lee [查看邮箱]
[v1]
2026年8月20日星期四 07:29:07 UTC（2,089 KB）
[v2]
2026年10月13日星期二 07:41:25 UTC（2,091 KB）
来源：arXiv cs.AI · arxiv.org