DPPM：面向个性化语言模型的双路径参数化记忆

DPPM: Dual-Path Parametric Memory for Personalized Language Models

AI 导读

针对跨会话个性化中独立上下文编译无法整合历史、循环更新会削弱早期证据的问题，研究者提出双路径参数化记忆 DPPM：Evidence 路径直接池化交互历史表示以保留早期证据，Delta 路径顺序更新关联状态以捕捉变化，融合后生成以历史为条件的 LoRA 适配器。在多个骨干模型上，DPPM 于 PersonaMem-v2 取得 54.22%、PrefEval 取得 86.79%，优于所评估的基线。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：长期个性化要求语言模型利用交互历史来跨会话追踪用户偏好。参数化记忆将这种交互历史编码到模型参数或适配器中，从而减少将其包含在推理上下文中的需要。然而，独立的上下文编译使得跨会话整合未被明确，而循环更新可能会削弱早期证据。为应对这些挑战，我们提出了双路径参数化记忆（DPPM）。其证据路径直接池化交互历史的表示以保留早期证据，而其增量路径则顺序更新关联状态以捕捉变化。融合两者的输出可生成以历史为条件的 LoRA 适配器，将证据积累与有序修正相结合。在多个骨干模型上，DPPM 优于所评估的基线，在 PersonaMem-v2 上达到 54.22%，在 PrefEval 上达到 86.79%。这些结果表明，DPPM 为跨会话个性化参数化记忆提供了一种简单而有效的设计选择。

评论：	12 页，5 幅图
主题：	计算与语言（cs.CL）
引用为：	arXiv:2610.11776 [cs.CL]
	（或 arXiv:2610.11776v1 [cs.CL] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.11776 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Yuhao Chen [查看电子邮件]
[v1] 2026 年 10 月 8 日星期四 11:56:07 UTC（1,811 KB）

来源：arXiv cs.CL · arxiv.org