研究者提出BARC-Bench智能体安全边界基准

Kangkang Li等作者提出并发布BARC-Bench，用于评估智能体是否遵守由工作区记录、隐含环境上下文和未明说社会规范构成的安全边界。该基准包含9个模拟工作环境中的110个任务，这些任务表面无害，却为不安全操作留下空间。 据作者描述，基准考察的是智能体在看似正常的请求下能否识别并避开潜在的不安全操作，而非直接拒绝明显有害的指令。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。