论文揭示语言智能体良性记忆过度泛化风险

Kaiqu Liang 等作者发表论文，提出语言智能体的“记忆陷阱”：来自良性交互的持久记忆会过度泛化，导致智能体在后续任务中出现不安全或不可靠的行为。 论文称，这一结论表明风险不只来自恶意输入，正常交互积累的记忆本身也可能改变智能体后续表现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。