arXiv·· 12 天前AI 评分26
面向 LLM 的纵深防御：评估记忆门控对激活诱导与记忆诱导谄媚的影响
Defense-in-Depth for LLMs: Evaluating Memory Gates Against Activation-Induced and Memory-Induced Sycophancy
AI 导读
研究提出一个 2×2 纵深防御框架，将内部激活引导与外部记忆处理分离，用于评估 LLM 的谄媚行为。团队从 100 组配对提示词中提取谄媚引导方向，并在四个开放权重模型上测试记忆门控对激活诱导和记忆诱导谄媚的防御效果。该工作针对检索到的用户历史可能让模型偏向存储的用户信念、忽视客观证据这一问题。
来源：arXiv · arxiv.org