热点事件持续更新

研究：RAG投毒防御高分依赖基准构造捷径

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Pushkal Kumar 与 Arvin Sahaym 发表论文称，查询时 RAG 投毒防御在基准上的近乎完美检测率，主要由投毒集的构造方式决定，而非过滤器实际读取的内容。他们仅删除 PoisonedRAG 代码中前置的目标问题前缀，RAGuard 的 AUROC 就从 0.953 降至 0.758，漏检率从 0.191 升至 0.763。作者据此提出，检测结果应同时报告投毒集构造特征和实际部署阈值下的假阳性率，并开源了计算该特征的脚本。

AI 根据报道生成 · 1 小时前更新

最新进展10月27日 12:00

排名不等于决策：查询时 RAG 投毒防御中的基准捷径与工作点崩塌

报道时间线

沿着报道，了解事件的不同侧面。

10月27日

12:00
arXiv cs.CL
排名不等于决策：查询时 RAG 投毒防御中的基准捷径与工作点崩塌
研究发现，查询时 RAG 投毒防御在基准上的近乎完美检测率主要由投毒集的构造方式决定，而非过滤器实际读取的内容。仅删除 PoisonedRAG 代码中前置的目标问题前缀，RAGuard 的 AUROC 就从 0.953 降至 0.758，漏检率从 0.191 升至 0.763。作者指出检测结果必须同时报告投毒集构造特征与实际部署阈值下的假阳性率，并开源了计算该特征的脚本。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。