研究者提出安全强化学习评测指标与分级体系

1. 12:00
   arXiv cs.AI

   安全强化学习评测指标新框架与开源套件 SafeRLEval

   研究者提出一套安全强化学习评测指标与安全分级体系，指出仅报告"平均是否安全"不足以刻画算法真实安全性，无法反映安全约束被违反的频率与严重程度。基于多类安全导航任务的实证评估显示，聚合指标、分布化报告以及按任务和安全边界细分的结果各自揭示其他指标无法提供的信息，建议三者联合报告而非压缩为单一数值。团队同时开源评测套件 SafeRLEval。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。