arXiv cs.AI· Christian A. Rogers, Qian Lin, Daniel S. Brown·· 11 小时前AI 评分31
OpenVLA 激活的稀疏自编码器表示可预测机器人任务失败
Do VLAs Know They Will Fail? Interpretable Success and Failure Patterns in Physical AI Systems
AI 导读
研究发现 OpenVLA 激活的稀疏自编码器（SAE）表示包含结果预测信息，能在机器人进入不可恢复状态前预测任务失败。研究者定位了与成功或失败特定阶段相关的单个 SAE 特征，并通过时间区间分析揭示重复出现的行为模式，再用基于 VLM 的解释流程生成这些模式的行为描述。
正文 · AI 翻译
摘要：视觉-语言-动作（VLA）模型已成为强大的通用机器人策略，但其成功与失败仍难以诊断和理解。在本工作中，我们表明 OpenVLA 激活的稀疏自编码器（SAE）表示包含结果预测信息，并可用于在机器人达到不可恢复状态之前预测任务失败。此外，为了深入理解哪些常见行为可能导致这些结果，我们识别出强激活与成功或失败特定阶段相关的单个 SAE 特征，并通过定位这些特征表现出显著激活变化的时间区间，揭示反复出现的行为模式。我们进一步开发了一个基于 VLM 的解释流程，为这些模式生成行为描述，并在留出区间上验证其与特征激活的对应关系。
| 评论： | 12 页（4 页正文 + 8 页附录），4 幅图。已被 2026 年机器人学习会议（CoRL 2026，非存档）的物理 AI 安全科学研讨会接收 |
| 主题： | 机器人学（cs.RO）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.32208 [cs.RO] |
| （或 arXiv:2610.32208v1 [cs.RO] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32208 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Christian Rogers [查看邮箱]
[v1]
2026 年 10 月 23 日星期五 06:02:12 UTC（901 KB）
来源：arXiv cs.AI · arxiv.org