德州大学 Jev-Mem 让 AI 记忆构建提速 6.6 倍
德州大学Jev-Mem让AI记忆构建提速6.6倍
德州大学论文提出 Jev-Mem，将链接、停止搜索等小决策交给快速打分模型 Jev 批量输出概率，LLM 只在最后读取记忆并作答，使长对话记忆构建速度提升 6.6 倍。在 LoCoMo 长对话基准上，其回答得分 0.777，高于最佳基线的 0.700；记忆构建耗时 158 秒，最快对手为 1,044 秒，回答耗时 0.93 秒对 1.47 秒。
Rohan Paul· @rohanpaul_ai · X·2026-10-25 22:27· 51 分钟前AI 评分42
AI 导读
德州大学论文提出Jev-Mem，把链接、停止搜索等小决策交给快速打分模型Jev批量输出概率，LLM只在最后读取记忆并作答，使长对话记忆构建速度提升6.6倍。在LoCoMo长对话基准上，其回答得分0.777，高于最佳基线的0.700；记忆构建耗时158秒，最快对手为1,044秒，回答耗时0.93秒对1.47秒。
正文 · 原文
德州大学论文发现，将小的记忆决策交给快速打分模型，可使 AI 记忆系统构建长对话记忆的速度提升 6.6 倍
许多记忆系统会让 LLM 做出小决策，比如链接什么或何时停止搜索。
为每个选择生成文本很慢，而这些调用在记忆构建和搜索过程中会不断累积。
Jev-Mem 将这些选择交给快速打分器 Jev，它批量返回概率而非文本。LLM 只在最后被调用，用于读取选定的记忆并作答。
在 LoCoMo 长对话基准上，它获得了 0.777 的回答得分，而最佳基线为 0.700。它构建记忆耗时 158 秒，而最快的对手为 1,044 秒；回答耗时 0.93 秒，对手为 1.47 秒。
如果你的记忆流水线会调用 LLM 进行路由、打分或停止判断，不妨在那里改用快速分类器，把 LLM 留给回答。
来源：Rohan Paul · x.com
来源：RadarAI · aihot.news