研究提出策略不变性压力测试评估LLM安全裁判
热点事件持续更新
研究提出策略不变性压力测试评估LLM安全裁判
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Shihao Weng、Yang Feng、Xiaofei Xie 提出“策略不变性”压力测试协议与 Policy Invariance Score，用于检验 LLM 安全裁判的判定稳定性。三人称，可信的安全裁判必须满足这一基本属性，并将其拆解为三条可测试原则：认证等价改写下评分标准语义不变、严格到宽松阈值偏移下阈值不变、歧义感知校准。 在 ASSEBench 与 R-Judge 轨迹上测试四类智能体评判器时，保持内容不变的策略改写可使最多 9.1% 的判定翻转超过基线抖动，其中 18-43% 的翻转发生在无歧义案例上。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 13:00
LLM 安全评判器是否策略不变？一项三原则压力测试报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.AILLM 安全评判器是否策略不变？一项三原则压力测试
研究提出可信安全评判器应满足"策略不变性"，并将其拆解为三条可测试原则：认证等价改写下的评分标准语义不变、严格到宽松阈值偏移下的阈值不变、以及歧义感知校准。在 ASSEBench 与 R-Judge 轨迹上测试四类智能体评判器发现，保持内容不变的策略改写可使最多 9.1% 的判定翻转超过基线抖动，且 18-43% 的翻转发生在无歧义案例上。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。