审计发现九个政策决策基准评分有误
热点事件持续更新
审计发现九个政策决策基准评分有误
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Yanru Xiao 等作者审计九个公开政策决策基准,发现存在无依据的目标答案、重放后仍存活的参考错误,以及拒绝可接受答案或给不完整决策记分的评估器,并提出 BAR 修订方案。 在 LegalBench SARA 的 96 个数值案例上,仅修正评分器就让三个模型的接受率各提升超过 80 个百分点;在 RuleArena Tax 中恢复必需的零下限后,300 条参考中有 27 条被改动。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
审计发现九个政策决策基准存在评分错误,提出 BAR 修订方案报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv cs.CL审计发现九个政策决策基准存在评分错误,提出 BAR 修订方案
研究者审计九个公开政策决策基准,发现存在无依据的目标答案、重放后仍存活的参考错误,以及拒绝可接受答案或给不完整决策记分的评估器。在 LegalBench SARA 的 96 个数值案例上,仅修正评分器就让三个模型的接受率各提升超过 80 个百分点;RuleArena Tax 中恢复必需的零下限改动了 300 条参考中的 27 条。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。