跳到正文
热点事件持续更新

IFC-MCQ:自动生成多选题基准评估LLM智能体

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Rabindra Lamsal等人提出IFC-MCQ方法,可从IFC文件自动生成多选题基准,用精确的选项集评分替代需要人工或LLM审阅的自由文本评估。其分类体系覆盖4组、15个类别和36个子类型,答案键取自文件本身,干扰项由文件派生值或预定义规则构造。 在规模与建模特征各异的IFC模型上评测两种智能体配置后发现,性能会随源IFC模型和检索接口变化,并暴露出类别特有的失败模式。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv cs.CL
    IFC-MCQ:为评估 LLM 智能体的 IFC 数据检索自动生成多选题基准

    IFC-MCQ 可从 IFC 文件自动生成多选题基准,用精确的选项集评分替代需要人工或 LLM 审阅的自由文本评估。其分类体系覆盖 4 组、15 个类别和 36 个子类型,答案键取自文件本身,干扰项由文件派生值或预定义规则构造。在规模与建模特征各异的 IFC 模型上评测两种智能体配置后发现,性能会随源 IFC 模型和检索接口变化,并暴露出类别特有的失败模式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。