研究:开启推理降低RAG投毒检测率
热点事件持续更新
研究:开启推理降低RAG投毒检测率
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Mehrdad Ghassabi 等作者在 arXiv 发表研究,考察大模型开启推理是否改变检索增强生成(RAG)中投毒检测与答案泄漏的关系。在 200 道 SciFact 问题上对比 DeepSeek-V4-Flash 与 Qwen3.6-Plus 的推理开关配置后,开启推理使 DeepSeek-V4-Flash 的 Cordon Rate(投毒检测率)从 0.205 降至 0.075,即检测到投毒的比例明显下降。研究据此提出“检测到投毒不等于能抵抗投毒”。
AI 根据报道生成 · 5 分钟前更新
最新进展11月18日 13:00
检测到投毒不等于能抵抗:RAG 中的推理与投毒上下文报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.CL检测到投毒不等于能抵抗:RAG 中的推理与投毒上下文
在 200 道 SciFact 问题上对比 DeepSeek-V4-Flash 与 Qwen3.6-Plus 的推理开关配置后发现,开启推理让 DeepSeek-V4-Flash 的 Cordon Rate 从 0.205 降至 0.075。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。