arXiv cs.AI· Shaekh Mohammad Shithil, Lantao Liu·· 11 小时前AI 评分31
SEVI：面向真实世界强化学习的安全证据式干预框架
SEVI: Safe Evidential Real-World Reinforcement Learning
AI 导读
SEVI 是一个面向真实世界策略学习的可靠性感知安全干预框架，其 Evidential Safety Critic 可在单次前向传播中同时估计未来约束违规风险与认知不确定性。
正文 · AI 翻译
摘要：真实世界强化学习已使接触密集型操作任务能够直接在物理机器人上训练，但在线学习过程中的不安全交互仍是实际部署的关键障碍。我们提出安全证据真实世界强化学习（SEVI），一个用于真实世界策略学习过程中可靠性感知安全干预的框架。SEVI 引入证据安全评论家，可在单次前向传播中同时估计未来约束违反风险和认知不确定性。在线学习期间，SEVI 在执行前评估每个任务策略动作；如果该动作被预测为不安全，或预测缺乏足够证据支持，SEVI 会用离线训练的恢复策略覆盖它，引导机器人前往风险较低的区域。我们在两个仿真操作任务和一个真实世界 USB 插入任务上，在分布内和分布偏移条件下评估 SEVI。在任务学习和安全评论家基线中，SEVI 实现了最强的轨迹级安全预测、最高的最终任务成功率和最低的不安全事件数。相对于基于恢复的安全强化学习，SEVI 还将不安全事件减少了 13.4% 至 57.1%，同时保持低延迟的执行时过滤。项目页面见：此 https URL
| 评论： | 13 页，7 幅图。已被 IEEE Robotics and Automation Letters (RA-L), 2026 接收发表。项目页面：此 https URL |
| 主题： | 机器人学 (cs.RO)；人工智能 (cs.AI)；机器学习 (cs.LG) |
| 引用为： | arXiv:2610.31829 [cs.RO] |
| （或 arXiv:2610.31829v1 [cs.RO] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.31829 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shaekh Mohammad Shithil [查看电子邮件]
[v1]
2026 年 10 月 22 日星期四 19:08:36 UTC（7,468 KB）
来源：arXiv cs.AI · arxiv.org