arXiv cs.AI· Mina Mohammadmirzaei, Jeffrey Flanigan·· 10 天前AI 评分39
OSGuard：面向计算机使用智能体的安全基准
OSGuard: A Benchmark for Safety in Computer-Use Agents
AI 导读
研究团队推出 OSGuard，一个用于评估计算机使用智能体安全性的双粒度基准套件，包含 324 条人工标注的动作级样本和 45 个基于 40 个 OSWorld 任务改造的风险增强执行任务。
正文 · AI 翻译
摘要：计算机使用代理可以在完成良性用户指令的同时，违反用户环境的重要约束。我们提出 OSGuard，一个双粒度基准套件，通过本地、执行前的护栏决策和端到端任务执行来评估安全性。其动作级基准包含 324 个人工标注的示例，护栏根据原始指令和当前界面状态将候选动作分类为允许、无关或不安全。其风险增强执行套件包含 45 个任务，源自 40 个 OSWorld 任务，保持原始指令不变，同时修改环境以引入状态相关的安全约束，并保留一条安全的完成路径。增强评估器保留原始任务成功标准，并添加显式的基于状态的安全检查，区分安全完成与违反这些约束的名义成功。在动作级基准上，最强的被评估护栏达到 79.9\% 的准确率和 0.80 的宏 F1，但在来自风险增强执行的动作上性能大幅下降。在完整任务评估中，无护栏代理安全完成 62.2\% 的任务，而 37.8\% 导致不安全完成；添加最强护栏将不安全完成降至 33.3\%，同时保持安全成功不变。这些结果表明，状态相关的安全约束在本地识别和端到端计算机使用过程中保持方面仍然具有挑战性。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2606.15034 [cs.AI] |
| （或 arXiv:2606.15034v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.15034 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Mina Mohammadmirzaei [查看电子邮件]
[v1]
2026年6月13日星期六 00:32:24 UTC（2,646 KB）
[v2]
2026年10月6日星期二 03:06:55 UTC（1,731 KB）
来源：arXiv cs.AI · arxiv.org