arXiv·· 12 天前AI 评分38
多智能体 LLM 推理中的持久记忆：代价、收益与可辨识时机
Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell
AI 导读
一项研究在同一套三层智能体架构上测量了长上下文推理分解与持久记忆层的实际效果：分解使每查询峰值 KV 工作集降至 14.3 MiB，而单次推理与检索增强基线分别为 35.5 和 35.3 MiB。持久记忆层则未带来收益，在八组受控数据集、每组 n=100 的实验中反而产生成本。
来源：arXiv · arxiv.org