热点事件持续更新

研究：ASR指标掩盖RAG防御盲区

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Chahana Dahal 与 Zuobin Xiong 提出 Aligned RAG Evaluation 匹配查询评估协议，主张同时考察有无防御下的干净与投毒响应，以区分“被阻止的失败”与“被引入的失败”。在 HotpotQA 和 Natural Questions 上的实验显示，现有 RAG 投毒防御虽能阻止部分攻击，却会引入意外的目标正向回答，且评估标准会改变防御排名。研究据此认为，仅靠攻击成功率（ASR）评估 RAG 投毒防御存在关键盲区，被阻止不等于被保护。

AI 根据报道生成 · 54 分钟前更新

最新进展11月2日 13:00

研究指出 ASR 指标掩盖 RAG 防御盲区：被阻止不等于被保护

报道时间线

沿着报道，了解事件的不同侧面。

11月2日

13:00
arXiv cs.CL
研究指出 ASR 指标掩盖 RAG 防御盲区：被阻止不等于被保护
一项研究提出 Aligned RAG Evaluation 匹配查询协议，联合考察有无防御下的干净与投毒响应，以区分“被阻止的失败”与“被引入的失败”。在 HotpotQA 和 Natural Questions 上的实验显示，现有防御虽能阻止部分攻击，却会引入意外的目标正向回答，且评估标准会改变防御排名。研究认为仅靠攻击成功率（ASR）评估 RAG 投毒防御存在关键盲区。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。