跳到正文
热点事件持续更新

研究:静态分析检测代码库幻觉上限有限

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Clarissa Miranda-Pena 等作者发表实证分析,考察静态分析工具检测和缓解代码库幻觉的能力,该研究已被 TMLR 接收。 在需要调用库的 NL-to-code 基准上,LLM 有 8.1%–40% 的回复使用了不存在的库功能。静态分析工具可检测 16%–70% 的全部错误和 14%–85% 的库幻觉,性能随模型与数据集变化;人工分析显示其理论上限为 48.5%–77%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. arXiv cs.CL
    静态分析方法检测与缓解代码库幻觉的实证分析

    在需要调用库的 NL-to-code 基准上,LLM 有 8.1-40% 的回复使用了不存在的库功能。静态分析工具可检测 16-70% 的全部错误和 14-85% 的库幻觉,性能随模型与数据集变化;人工分析显示其理论上限为 48.5%-77%。该研究已被 TMLR 接收。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。