arXiv cs.AI· Hasan Demirkiran, Jens Ernstberger·· 2 天前AI 评分31
AI 智能体安全评估中的捷径敏感性研究
Shortcut Sensitivity in Agent-Safety Evaluations
AI 导读
研究者提出三级捷径审计框架，审计 LinuxArena 轨迹和两个 TS-Bench 衍生数据集，发现基准数据的表征方式会实质性改变安全守卫的决策与评估表现。
正文 · AI 翻译
摘要：AI 智能体通过工具采取行动。有些行动较为敏感，因此监督这些行动的防护机制本身必须得到可靠评估。然而，用于评估防护机制的数据可能包含一些线索，使得无需衡量预期的安全构念就能预测标签，而这些线索也可能影响防护机制的决策。我们引入了一个三级捷径审计框架，并审计了已完成的 LinuxArena 轨迹以及两个源自 TS-Bench 的步骤数据集。我们区分了标签可预测性、观察性防护关联和配对决策敏感性。在 LinuxArena 中，较短的平均 shell 命令能强烈预测轨迹标签。在 AgentDojo-Traj 中，精确工具查找在混合域折下从 F_1=.901 降至域留出下的 .495。在 AgentHarm-Traj 中，已发布的 TS-Guard F_1 在行加权下从 .902 降至等交互加权下的 .719，而平衡准确率上升。随后，我们使用重复、交错的 Haiku 调用，在一个冻结的 64 步 AgentDojo-Traj 队列上，对最强的安全行标记关联进行了七配置筛选测试。重写 <INFORMATION> 标记使阻断率降低 8.33 个百分点，而不透明工具别名使其提高 11.46 个百分点。所有不安全调用仍被阻断；这些变化涉及针对继承标签的假阳性。在减去格式安慰剂效应后，两种效应仍非零，探索性 95% 范围不包含零。同样的编辑也改变了针对继承标签测得的准确率。这提供了直接证据，表明基准表示可以实质性改变防护机制的决策和测得的评估性能。Haiku 规模的效应在 Luna 或确定性 Q8 TS-Guard 中未能复现。我们建议采用域组留出、评估单元指标和安慰剂对照的配对干预。
| 评论： | 被 NeurIPS 2026 研讨会 TAE（我们能否信任 AI 评估？）和 AIWILD（野外智能体：安全、安保与超越）接收 |
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.22243 [cs.AI] |
| （或此版本的 arXiv:2610.22243v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.22243 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hasan Demirkiran [查看电子邮件]
[v1]
2026 年 10 月 15 日星期四 17:18:05 UTC（34 KB）
来源：arXiv cs.AI · arxiv.org