论文提出Expected Harm安全评估指标
热点事件持续更新
论文提出Expected Harm安全评估指标
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Yen-Shan Chen 等作者在 arXiv 论文中提出 Expected Harm 指标，按越狱危害被执行的可能性（以执行成本为函数建模）对危害严重程度加权，并指出当前基于严重程度分类的安全评测把模型输出等同于实际危害。 作者对前沿模型的实证分析称发现系统性的逆风险校准：模型对低可能性、高成本的威胁拒绝更强，却对高可能性、低成本的查询保持脆弱。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 13:00
Expected Harm：重新审视对齐与失准 LLM 的安全评测报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.CYExpected Harm：重新审视对齐与失准 LLM 的安全评测
论文提出 Expected Harm 指标，按执行可能性对越狱危害的严重程度加权，指出当前基于严重程度分类的安全评测把模型输出等同于实际危害。对前沿模型的实证分析发现系统性的逆风险校准：模型对低可能性高成本威胁拒绝更强，却对高可能性低成本查询保持脆弱。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。