审计发现社会世界模型评估缺预测验证
热点事件持续更新
审计发现社会世界模型评估缺预测验证
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Denglin Jiang 等人审计了 1999 至 2026 年的 113 项社会世界模型研究,发现仅 9 项主要评估测量了真实的人对系统或实验者所选动作的反应,其中只有 2 项进一步将显式反应预测与该反应作对比。对 25 项语言模型工作的全文检查未发现满足这些条件的实验,其余评估测试的是当前状态推断、任务成功或基于记录动作的预测。 作者据此提出一个 1-step 谈判实验来区分这些问题,并说明结论仅描述所审计样本。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:00
社会世界模型评估缺口:113 项研究审计发现仅 2 项直接检验对他人反应的预测报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.CL社会世界模型评估缺口:113 项研究审计发现仅 2 项直接检验对他人反应的预测
一项审计 1999 至 2026 年 113 项研究的分析发现,仅 9 项主要评估测量了真实的人对系统或实验者所选动作的反应,其中只有 2 项还将显式反应预测与该反应作对比。对 25 项语言模型工作的全文检查未发现满足这些条件的实验,其余评估测试的是当前状态推断、任务成功或基于记录动作的预测。作者提出一个 1-step 谈判实验来区分这些问题,并说明结论仅描述所审计样本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。