arXiv cs.AI· Weiheng Wu, Junkai Chen, Zhensu Sun, Jieke Shi, Yunbo Lyu, David Lo·· 1 天前AI 评分39
Caper：面向自主编码智能体的后果感知审批机制
"Shall We Approve?" Consequence-Aware Approval for Autonomous Coding Agents
AI 导读
研究者提出 Caper，一种后果感知的审批机制：在快照沙箱中预执行每条命令，把观察到的实际影响以受限报告交给独立审批器，放行则提交、拦截则回滚并给出可操作理由。在 SABER 上其有害结果率为 6.7%，低于六个对比系统中最少 14.8% 的水平；在自建基准 YoloFS-Ext 上为 7.8%，对比系统至少 35.3%，同时仅拦截 1.0% 的安全孪生任务。
正文 · AI 翻译
摘要：编码智能体越来越依赖自动审批器来决定提议的 shell 命令是否可以运行。现有的审批器，从基于规则的检查器到护栏模型和已部署的权限分类器，都基于请求和命令的文本做出决策。然而，命令的行为取决于它调用的代码和工作区的状态，而观察文件更改的系统将评估留给智能体或执行后的人工。我们提出 Caper，一种后果感知的审批机制，它在快照沙箱中预执行每个命令，向独立审批器提供其观察到的效果的有界报告，提交允许的命令，并回滚被阻止的命令，并附上智能体可以据此行动的原因。与六个现有系统相比，Caper 在 SABER 上实现了最低的有害结果率（6.7% 对比至少 14.8%）和 YoloFS-Ext（我们构建的一个基准，其中有害行为隐藏在调用的工具中）（7.8% 对比至少 35.3%），同时阻止了 YoloFS-Ext 中危险任务的安全孪生任务的 1.0%。
| 评论： | 24 页，9 张图 |
| 主题： | 密码学与安全 (cs.CR)；人工智能 (cs.AI) |
| 引用为： | arXiv:2610.40753 [cs.CR] |
| （或 arXiv:2610.40753v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40753 由 DataCite 发布的 arXiv DOI（待注册） |
提交历史
来自：Weiheng Wu [查看电子邮件]
[v1]
2026 年 10 月 29 日星期四 16:20:20 UTC（440 KB）
来源：arXiv cs.AI · arxiv.org