跳到正文
热点事件持续更新

研究提出人机协同评估统一统计框架

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Harine Choi 等作者提出一个统一统计框架,用于在仅部分人工核验的情况下评估大语言模型和多模态大模型。该框架覆盖两条评估路线:直接审计路线采用置信度分层抽样,论文称无需校准置信度即可还原总体准确率;LLM-as-a-judge 路线则对敏感度和假阳性率建模,给出带校准不确定性的误差校正估计。 该框架的用途是:在人工只核验部分样本时,仍能对模型总体表现给出统计估计。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    从自置信到统计精度:用直接审计与 LLM 辅助审计扩展人在回路评估

    该论文提出统一统计框架,用于在部分人工核验下评估 LLM 与 MLLM:直接审计路线采用置信度分层抽样,无需校准置信度即可还原总体准确率;LLM-as-a-judge 路线则以敏感度和假阳性率建模,给出带校准不确定性的误差校正估计。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。