Google论文测试RAG检索层语料投毒
热点事件持续更新
Google论文测试RAG检索层语料投毒
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Google 发布论文测试针对 RAG 检索层的语料投毒：攻击者只需让伪造文档复制用户查询文本，就能被检索器选中，是否附带隐藏攻击指令对检索结果影响很小。在 623 条查询上，仅 5 篇文档（约占语料 0.1%）就让经典检索器排序质量下降 40.2% 至 61.5%。 论文同时测试了防御手段：能拦截查询复读文档的过滤器可阻断该攻击，但在 NFCorpus 上把干净排序质量从 0.267 降到 0.134。
AI 根据报道生成 · 58 分钟前更新
最新进展11月6日 02:24
Google 论文研究 RAG 检索层语料投毒：复制查询即可劫持检索报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- RadarAIGoogle 论文研究 RAG 检索层语料投毒：复制查询即可劫持检索
Google 新论文测试 RAG 检索层投毒，发现伪造文档只需复制用户查询文本就能被检索器选中，是否附带隐藏攻击指令对检索结果影响很小。在 623 条查询上，仅 5 篇文档（约占语料 0.1%）就让经典检索器排序质量下降 40.2% 至 61.5%。能拦截查询复读文档的过滤器虽可阻断攻击，但在 NFCorpus 上把干净排序质量从 0.267 砍到 0.134。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。