研究提出ECA指标与微调配方提升智能体记忆鲁棒性
热点事件观察中
研究提出ECA指标与微调配方提升智能体记忆鲁棒性
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Runze Zhao等作者针对LLM智能体记忆管理中的过时记忆与记忆投毒两类失效，提出以证据条件准确率（ECA）衡量记忆鲁棒性：智能体选用的记录须包含答案所需的全部证据、已更新且无攻击。作者称，现有记忆系统与防御在测试集上并不优于未调优的记忆管理器。 作者还提出一种基于单段对话合成含变更与攻击片段的一次性微调方法，在三个骨干模型上提升各类别得分，整体ECA提升逾一倍，但鲁棒性仍不完整。
AI 根据报道生成 · 50 分钟前更新
最新进展11月2日 13:00
接受变更、拒绝攻击：LLM 智能体的鲁棒记忆管理报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.AI接受变更、拒绝攻击：LLM 智能体的鲁棒记忆管理
针对 LLM 智能体记忆管理中的过时记忆与记忆投毒两类失效，研究提出以证据条件准确率（ECA）衡量鲁棒性，要求智能体选用的记录包含答案所需的全部证据、已更新且无攻击。现有记忆系统与防御在测试集上并不优于未调优的记忆管理器；一种基于单段对话合成含变更与攻击片段的一次性微调方法，在三个骨干模型上提升各类别得分，整体 ECA 提升逾一倍，但鲁棒性仍不完整。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。