跳到正文
arXiv cs.AI· Liuji Chen, Zeyu Zhang, Xinyuan Zhang, Shuai Nie, Qiang Liu, Shu Wu, Liang Wang·· 13 小时前AI 评分31

GLASS:用全局稀疏先验与局部语义校准实现个性化文本生成

From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

AI 导读

GLASS 是一个无需训练的个性化文本生成框架,通过稀疏自编码器从历史回复中提取全局用户风格先验,并在聚类交互场景上构建局部对比风格向量,推理时联合注入模型不同层。在 LaMP 和 LongLaMP 上,GLASS 在 ROUGE 指标和 LLM-as-judge 评估中均优于基于检索、微调和激活引导的基线。分析显示 SAE 表示对主题和长度变化更稳健,风格信息与语义残留的解耦更好。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:个性化文本生成要求模型从历史数据中捕捉用户特定的写作风格。现有基于检索、参数高效微调或激活引导的方法要么引入推理和存储开销,要么难以将风格信号与语义内容分离。我们提出 GLASS,一个无需训练的个性化生成框架,通过带稀疏先验的全局-局部激活引导实现。GLASS 使用稀疏自编码器从历史回复中提取全局用户风格先验,并在聚类交互场景上构建局部对比风格向量。推理时,它将全局和局部向量联合注入不同模型层,无需检索或参数更新即可实现上下文感知的个性化。在 LaMP 和 LongLaMP 上的实验表明,GLASS 在 ROUGE 指标和 LLM-as-judge 评估上均优于基于检索、微调和引导的基线。进一步分析表明,基于 SAE 的表示对主题和长度变化更稳健,表明风格信息与语义残留的分离更好。
评论: EMNLP2026 Oral,SAC Highlight Award
主题: 人工智能(cs.AI)
引用为: arXiv:2607.21620 [cs.AI]
  (或此版本的 arXiv:2607.21620v2 [cs.AI])
  https://doi.org/10.48550/arXiv.2607.21620

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Liuji Chen [查看邮箱]
[v1] 2026年6月1日星期一 12:42:17 UTC(607 KB)
[v2] 2026年10月29日星期四 14:05:24 UTC(647 KB)

来源:arXiv cs.AI · arxiv.org