arXiv cs.CL· Kemou Li, Zhuan Shi, Qizhou Wang, Fengpeng Li, Negar Rostamzadeh, Golnoosh Farnadi, Jiantao Zhou·· 9 天前AI 评分27
LLM Persona Unlearning：PersonaUnlearnBench 基准与 PaCE 方法
LLM Persona Unlearning
AI 导读
研究提出 PersonaUnlearnBench，一个覆盖 3 个模型家族 6 个 LLM、5 种人格的配对基准，含对齐的遗忘/保留集、留出指令改写与四轴评估，显示标准遗忘方法难以在不损害生成质量与通用能力的前提下可靠抹除目标人格。
正文 · AI 翻译
摘要：预训练赋予大型语言模型（LLM）与角色、风格、价值观和目标相关的广泛行为模式库。后训练教会条件性表现，并使有帮助的 Assistant 成为默认模式，但它不会从权重中抹去其他模式；因此，明确的提示可以引出会反复影响判断、语言和行动的人格。在开放权重设置中，运行时控制可以被移除，这促使了人格遗忘：一种权重级别的编辑，使指定人格难以在未见情境中被引出和表现。我们提出了 PersonaUnlearnBench，这是一个模型特定的配对基准，涵盖来自三个家族的六个 LLM 和五种人格，具有对齐的遗忘/保留集、留出的指令改写以及四轴评估。该基准表明，标准遗忘方法无法可靠地抹除目标人格，同时不牺牲有意义的生成或通用效用。因此，我们提出了 PaCE，它比较对同一问题的目标回答和期望回答，以定位内部行为方向，然后训练目标提示状态远离目标模式并朝向匹配的期望回答。实验表明，PaCE 能持续抑制目标人格，同时保持高回答质量和有用的对应行为，且效用成本适中。这些结果确立了人格遗忘作为一个独特的行为级编辑问题，以及一条实现对潜在 LLM 响应策略持久控制的实用路径。
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2609.39882 [cs.CL] |
| （或使用 arXiv:2609.39882v2 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2609.39882 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kemou Li [查看电子邮件]
[v1]
2026年9月30日星期三 14:55:52 UTC（764 KB）
[v2]
2026年10月8日星期四 17:28:42 UTC（764 KB）
来源：arXiv cs.CL · arxiv.org