研究揭示RAG立场投毒并提出平衡中间件

Puyuan Yang等作者发表论文，研究检索增强生成（RAG）中的“立场投毒”：注入的事实本身正确，但对争议话题的立场是单方面的。研究发现，当注入后ProCon文档的平均主题级投毒占比达18.9%时，来自不同厂商的四款生成模型均出现与投毒方向一致的立场偏移，且偏移随四个集中度水平单调上升。 作者据此提出立场平衡中间件，用于在RAG流程中平衡证据立场。论文称该中间件可缓解上述偏移，但报道未给出其效果数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。