arXiv cs.AI· Luoxi Tang, Yuqiao Meng, Nilesh Auradkar, Muchao Ye, Dazheng Zhang, Zhaohan Xi·· 10 天前AI 评分31
如何理解并缓解 LLM 智能体的推理时记忆过度依赖：MEMTRIM 框架
Understanding and Mitigating Inference-Time Overreliance Using Agentic Memory
AI 导读
研究发现，LLM 智能体的 agentic memory 即使存储正确、检索得当，在查询与记忆仅部分重叠时仍会扭曲推理，造成"记忆过度依赖"。为此提出的 MEMTRIM 在写入时索引记忆证据、读取时控制复用，去除重复或冲突证据并保留有用信息，无需重训练，适用于基于嵌入和结构化记忆。实验显示 MEMTRIM 在多种模型和记忆设置下降低了记忆过度依赖，同时保留有用记忆的收益。
正文 · AI 翻译
摘要：智能体记忆使 LLM 智能体能够复用过往经验，然而即便检索到的记忆是良性的、被正确存储且被恰当检索，它们仍可能扭曲推理。我们研究了这种失效模式，并将其称为记忆过度依赖。在多种基准和记忆架构中，我们发现当过往经验能够迁移到当前任务时，记忆是有用的，但当只有部分证据能够迁移时，记忆可能产生误导。在查询与记忆部分重叠的情况下，失败最为严重，这一模式通过改变重叠证据数量的受控实验得到了进一步证实。受此发现启发，我们提出了 MEMTRIM，一个即插即用的框架，在写入时对记忆证据建立索引，并在读取时控制其复用。MEMTRIM 移除重复或冲突的证据，同时保留有用的记忆特定信息，无需重新训练，并适用于基于嵌入的和结构化的记忆 this http URL 表明，MEMTRIM 在多种模型和记忆设置下减少了记忆过度依赖，同时保留了有用记忆带来的收益。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.07311 [cs.AI] |
| （或 arXiv:2610.07311v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07311 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Luoxi Tang [查看邮箱]
[v1]
2026年10月5日星期一 19:48:54 UTC（1,191 KB）
来源：arXiv cs.AI · arxiv.org