arXiv·· 14 天前AI 评分38
研究：生产级水印如何导致 LLM 产生幻觉
Invisible Ink, Visible Lies: How Production Watermarking Causes LLMs to Hallucinate
AI 导读
一项研究提出"水印幻觉"概念：即使证据已在上下文中、未加水印的模型能正确作答，加水印仍会诱发或放大事实错误。研究在受控 RAG 设置下，用相同上下文、查询和解码配置对比六种代表性水印方法的生成结果，量化其事实准确率下降。
来源：arXiv · arxiv.org