跳到正文
热点事件持续更新

审计发现社会世界模型评估缺预测验证

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Denglin Jiang 等人审计了 1999 至 2026 年的 113 项社会世界模型研究,发现仅 9 项主要评估测量了真实的人对系统或实验者所选动作的反应,其中只有 2 项进一步将显式反应预测与该反应作对比。对 25 项语言模型工作的全文检查未发现满足这些条件的实验,其余评估测试的是当前状态推断、任务成功或基于记录动作的预测。 作者据此提出一个 1-step 谈判实验来区分这些问题,并说明结论仅描述所审计样本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    社会世界模型评估缺口:113 项研究审计发现仅 2 项直接检验对他人反应的预测

    一项审计 1999 至 2026 年 113 项研究的分析发现,仅 9 项主要评估测量了真实的人对系统或实验者所选动作的反应,其中只有 2 项还将显式反应预测与该反应作对比。对 25 项语言模型工作的全文检查未发现满足这些条件的实验,其余评估测试的是当前状态推断、任务成功或基于记录动作的预测。作者提出一个 1-step 谈判实验来区分这些问题,并说明结论仅描述所审计样本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。