跳到正文
热点事件持续更新

审计发现九个政策决策基准评分有误

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Yanru Xiao 等作者审计九个公开政策决策基准,发现存在无依据的目标答案、重放后仍存活的参考错误,以及拒绝可接受答案或给不完整决策记分的评估器,并提出 BAR 修订方案。 在 LegalBench SARA 的 96 个数值案例上,仅修正评分器就让三个模型的接受率各提升超过 80 个百分点;在 RuleArena Tax 中恢复必需的零下限后,300 条参考中有 27 条被改动。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.CL
    审计发现九个政策决策基准存在评分错误,提出 BAR 修订方案

    研究者审计九个公开政策决策基准,发现存在无依据的目标答案、重放后仍存活的参考错误,以及拒绝可接受答案或给不完整决策记分的评估器。在 LegalBench SARA 的 96 个数值案例上,仅修正评分器就让三个模型的接受率各提升超过 80 个百分点;RuleArena Tax 中恢复必需的零下限改动了 300 条参考中的 27 条。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。