跳到正文
热点事件持续更新

研究者发布MemoryDojo基准,追踪智能体记忆投毒

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

David H. Yang等作者发布 MemoryDojo 基准,用于追踪投毒信息在 LLM 智能体记忆中的传播过程,并测量其对后续行为的影响。该基准包含覆盖四个领域的 155 条多会话长程轨迹,支持五种记忆系统。 评测发现,所有被测记忆系统都可能被记忆投毒,且下游影响差异显著。团队还提出一套记忆感知的投毒优化流程,称其能提升投毒效果,并凸显不同记忆架构之间的差异。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. arXiv cs.CL
    MemoryDojo:基准测试 LLM 智能体记忆投毒

    研究者推出 MemoryDojo 基准,用于追踪投毒信息在 LLM 智能体记忆中的生命周期并测量其对后续行为的影响。该基准包含覆盖四个领域的 155 条多会话长程轨迹,支持五种记忆系统,评测发现所有记忆系统均可被记忆投毒,且下游影响差异显著。团队还提出记忆感知的投毒优化流程,可提升投毒效果并凸显不同记忆架构的差异。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。