研究：RAG中多数投毒文档降低模型识别率
热点事件持续更新
研究：RAG中多数投毒文档降低模型识别率
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Mehrdad Ghassabi 等作者发表的研究称，在 RAG 场景下，语言模型存在从众偏差：当检索文档中多数文档支持投毒声明时，模型更难识别出投毒。 研究以 Gemma-3-12b 为对象：检索文档中仅 1 篇投毒、6 篇健康时，投毒识别率为 25%（50/200）；当 6 篇互相一致的投毒文档占据多数时，识别率降至 10%（20/200）。在结果发生变化的 38 道 SciFact 题目中，34 道由识别转为未识别，仅 4 道反向变化（McNemar 检验 p = 6.04e-7）。作者称，这提供了 RAG 虚假信息检测中存在从众偏差的初步证据。
AI 根据报道生成 · 59 分钟前更新
最新进展11月2日 13:00
语言模型在 RAG 中表现出从众偏差：多数文档支持投毒声明时更难识别报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.CL语言模型在 RAG 中表现出从众偏差：多数文档支持投毒声明时更难识别
研究发现 RAG 场景下语言模型存在从众偏差：Gemma-3-12b 在检索文档中仅 1 篇投毒、6 篇健康时投毒识别率为 25%（50/200），而当 6 篇互相一致的投毒文档占据多数时识别率降至 10%（20/200）。在结果发生变化的 38 道 SciFact 题目中，34 道由识别转为未识别，仅 4 道反向变化（McNemar 检验 p = 6.04e-7）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。