跳到正文
热点事件持续更新

开放模型参加西班牙MIR考试:弃答不划算,图像不影响成绩

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

一项 arXiv 预印本研究用西班牙MIR住院医师考试规则,评测了4个8至27B参数的开源模型,共1552道题。作者称,三个较大模型若全部作答,可排进约前600至3000名,仍有41至43个专科可选。 研究称弃答从不划算:即使模型最不自信的答案,正确率也高于25%的盈亏平衡点。医学微调降低了模型的过度自信,但准确率随之下降,且未改善置信度区分对错的能力。 研究还发现,13%至38%的正确答案是以临床不成立的理据排除干扰项;移除或替换题目所给图像后,准确率不变。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv cs.CY
    开源语言模型能通过西班牙MIR住院医师考试吗?8-27B模型的不确定性、推理与图像使用研究

    研究用西班牙MIR住院医师考试规则评测4个8-27B开源模型共1552道题,三个较大模型若全部作答可排进约前600至3000名,仍有41-43个专科可选。弃答从不划算,因为即使最不自信的答案正确率也高于25%的盈亏平衡点。医学微调以准确率下降为代价降低过度自信,却未改善置信度区分对错的能力;13-38%的正确答案以临床不成立的理据排除干扰项,移除或替换所给图像后准确率不变。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。