跳到正文
热点事件持续更新

CogBattery:54个语言模型认知任务评测

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Dengzhe Hou 等作者发布 CogBattery 基准,用 13 个认知范式的文本改编版评测 54 个开源权重语言模型,并与各原始研究中的人类数据逐项对比。 结果显示,模型和人类一样对 n-back 诱饵反应更强,但在普通非目标上误报远多于人类;多数模型区分自身正误的置信度能力弱于人类,且无论答对与否都选同一赌注。模型得分主要沿两个维度分布,第一维与规模密切相关,但更大模型并未更接近人类,预设认知分组也不优于同规模随机分组。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.CL
    CogBattery:语言模型认知任务行为与结构的人类参照评测

    CogBattery 用 13 个认知范式的文本改编版评测 54 个开源权重语言模型,并与各原始研究中的人类数据逐项对比。模型和人类一样对 n-back 诱饵反应更强,但在普通非目标上误报远多于人类;多数模型的置信度区分正误的能力弱于人类,且无论答对与否都选同一赌注。模型得分主要沿两个维度分布,第一维与规模密切相关,但更大模型并未更接近人类,预设认知分组也不优于同规模随机分组。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。