arXiv cs.AI· Deepak Waghmare, Shaad Sufi·· 4 小时前AI 评分39
能否撤销?AI 智能体操作的可逆性分级
Can You Undo It? Reversibility Classes for AI Agent Actions
AI 导读
研究提出 Reversibility Classes——一套五级可逆性词汇表,含参数敏感规则、保守默认值与显式前状态捕获契约,覆盖 20 个 MCP 服务器上的 536 个工具。
正文 · AI 翻译
摘要:使用工具的 AI 智能体会更改文件、数据库、访问权限和公开信息,但获得调用工具的权限并不能确定错误是否可撤销。我们提出可逆性类别(Reversibility Classes),这是一套声明的五级词汇表,带有参数敏感规则、保守默认值和显式的先前状态捕获契约。固定版本的实现和证据关联注册表覆盖了 20 个 MCP 服务器上的 536 个工具。全部 738 项规则用例检查均符合声明的预期,而在 481 个可比工具中,有 118 个工具的原生注释映射与草案注册表标签不同。一名 AI 辅助评审员批准了 148 项评级,其中 75 项与注册表一致;这不属于独立一致。在 2,158 次记录运行中,已实现的会话防护在全部 29 次可归因的攻击阳性运行中拦截了相关操作,而读/写代理为 18 次,同时在 1,209 次良性运行中增加了九个审批点。受控的文件、Git、SQLite 和三种浏览器实验表明,恢复取决于捕获的状态、后续更改、编辑器存储和恢复路径,并暴露了一个 Git 合并状态例外。这些证据支持将恢复假设显式化并使其可测试。它并未确立注册表范围的准确性、减少生产环境危害或一般恢复可靠性。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2611.22075 [cs.AI] |
| (或 arXiv:2611.22075v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.22075 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Shaad Sufi [查看电子邮件]
[v1]
2026年11月17日星期二 01:55:26 UTC(135 KB)
来源:arXiv cs.AI · arxiv.org