arXiv cs.AI· Zhishang Xiang, Zerui Chen, Yunbo Tang, Zhimin Wei, Ruqin Ning, Yujie Lin, Qinggang Zhang, Jinsong Su·· 2 天前AI 评分27
MemSyco-Bench：评测 Agent 记忆引发的谄媚问题
MemSyco-Bench: Benchmarking Sycophancy in Agent Memory
AI 导读
研究者提出 MemSyco-Bench，一个评测 Agent 系统中记忆诱发谄媚行为的基准，覆盖五项任务：判断 Agent 能否拒绝将记忆当作事实证据、遵守记忆的适用范围、解决记忆与客观证据的冲突、跟踪记忆更新，以及用有效记忆做个性化。现有记忆基准只关注记忆是否正确存储、检索或更新，忽略了检索到的记忆如何影响下游推理与决策。相关资源已向社区开放。
正文 · AI 翻译
摘要：记忆已成为现代基于 LLM 的智能体的基石，支撑其从单轮助手向长期协作者的演进。然而，记忆并非总是有益的：检索到的记忆常常引发一个关键问题——谄媚，导致智能体以牺牲事实准确性或客观推理为代价过度迎合用户。尽管这一风险正在显现，现有的记忆基准主要评估记忆是否被正确存储、检索或更新，而忽视了检索到的记忆如何影响下游推理与决策。为弥补这一空白，我们提出了 MemSyco-Bench，一个用于评估智能体系统中记忆诱发谄媚的综合性基准。MemSyco-Bench 衡量记忆何时应影响决策以及应如何有效使用记忆。具体而言，它涵盖五项任务，评估智能体能否拒绝将记忆作为事实证据、尊重其适用范围、解决记忆与客观证据之间的冲突、跟踪记忆更新，以及利用有效记忆进行个性化。所有相关资源已在 此 https URL 为社区收集。
| 主题： | 信息检索（cs.IR）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.01071 [cs.IR] |
| （或 arXiv:2607.01071v3 [cs.IR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.01071 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Qinggang Zhang [查看邮箱]
[v1]
2026年7月1日星期三 15:30:33 UTC（10,562 KB）
[v2]
2026年7月2日星期四 15:40:30 UTC（10,475 KB）
[v3]
2026年10月15日星期四 15:04:45 UTC（10,340 KB）
来源：arXiv cs.AI · arxiv.org