arXiv cs.AI· Zipeng Ye, Shenyu Dai, Yong Xie, Kun Wang, Jiyang Guan, Zhikai Chen, Jiaqi Weng, Jialing Tao, Hui Xue·· 1 天前AI 评分32
ReA-Bench：面向负责任 AI 智能体审计的诊断基准
ReA-Bench: Benchmarking Responsible Agent Auditing
AI 导读
研究者推出 ReA-Bench，一个用于审计负责任 AI 智能体行为的诊断基准，将审计挑战分为内部安全知识、轨迹内矛盾、长上下文证据检索、来源与推理验证、间接引导、信息缺失六个层级。该基准包含动作看似有风险但符合任务与授权的良性案例，并提供成对轨迹版本以检验审计者在轨迹缩短或补充缺失信息后能否更可靠地识别同一风险。多数样本取自真实生产轨迹，场景经人工筛选与改编以保留真实任务及执行中可能出现的风险。
正文 · AI 翻译
摘要：随着智能体在本地和云环境中自主执行任务，审计其执行轨迹可以帮助服务提供商识别风险，并改进智能体框架和基础模型。我们对生产环境和红队轨迹的分析表明，某些风险在多种审计配置下会被反复遗漏。总体召回率掩盖了哪些风险被遗漏，以及更高的召回率是否伴随着对合法行为的更多误报。现有基准对这些失败提供的洞察有限。生成的轨迹可能包含不一致的工具调用和响应、显眼的风险行为，或重复的攻击模式。按风险类型对结果分组也使得难以判断审计员是忽略了证据、接受了缺乏支持的结论，还是缺乏做出判断所需的信息。
我们推出 ReA-Bench，这是一个用于审计负责任智能体行为的诊断性基准。它将审计挑战分为六个层级：内部安全知识、轨迹内部的矛盾、长上下文中的证据检索、来源与推理的验证、间接引导，以及信息缺失。它包含具有挑战性的良性案例，其中行为看似有风险，但与任务及其授权一致。它还提供成对的轨迹版本，以测试当轨迹被缩短或补充缺失信息时，审计员是否能更可靠地检测到相同的风险。大多数样本取自真实的生产轨迹，场景经过人工挑选和调整，以保留现实任务以及执行过程中可能合理出现的风险。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.16493 [cs.AI] |
| （或 arXiv:2611.16493v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.16493 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zipeng Ye [查看电子邮件]
[v1]
2026年11月12日星期四 09:01:24 UTC（2,283 KB）
来源：arXiv cs.AI · arxiv.org