arXiv cs.AI· Huihao Jing, Shaojin Chen, Wenbin Hu, Yuxuan Liu, Haochen Shi, Zhongwei Xie, Haoran Li, Yangqiu Song·· 3 天前AI 评分34
同一操作，不同权限：评估 Guardrails 是否遵循授权
Same Operation, Different Permission: Evaluating Whether Guardrails Honor Authorization
AI 导读
研究者提出 benchmark，用专家标注的自然语言场景与已执行验证的操作，对比同一操作在语言轨道上的授权证据，检验 Guardrails 是否在阻止未授权操作的同时放行有合法权限的相同操作。实验显示，许多被阻止的操作源于审查失败而非正确拒绝；修复输出格式可恢复可用决策但改变被放行的授权请求，增加第二审查者能消除部分错误却会拒绝有效授权。
正文 · AI 翻译
摘要：随着语言模型智能体代表用户编写代码、转移资金和更改记录，判断某项操作是否获得授权已成为一个核心安全问题。防护栏通常被置于这些操作之前，但很少有评估去追问它们的决策是否遵循授权：阻止未授权的操作，同时仍允许相同操作在有效许可下执行。我们提出了 \bench{}，一个在其语言轨道中对比同一操作授权证据的基准。它结合了专家标注的自然语言场景与已执行并验证的操作，以及外部来源的原生策略请求。\bench{} 检查每个决策的正确性、可用性和由此产生的影响，并跟踪每个请求在防护栏变化下的表现。我们的实验表明，许多被阻止的操作源于审查失败，而非正确的拒绝。修复输出格式可以恢复可用的决策，但会改变哪些授权请求被认可；增加第二名审查者可以消除一些错误，同时却会拒绝有效的授权。因此，防护栏的评估应同时基于它们阻止的未授权操作和它们放行的已授权操作。
| 主题： | 人工智能（cs.AI）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.16838 [cs.AI] |
| （或 arXiv:2610.16838v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16838 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Huihao Jing [查看电子邮件]
[v1]
2026年10月12日星期一 14:17:21 UTC（190 KB）
来源：arXiv cs.AI · arxiv.org