arXiv cs.AI· Liuji Chen, Zeyu Zhang, Xinyuan Zhang, Shuai Nie, Qiang Liu, Shu Wu, Liang Wang·· 13 小时前AI 评分31
GLASS:用全局稀疏先验与局部语义校准实现个性化文本生成
From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation
AI 导读
GLASS 是一个无需训练的个性化文本生成框架,通过稀疏自编码器从历史回复中提取全局用户风格先验,并在聚类交互场景上构建局部对比风格向量,推理时联合注入模型不同层。在 LaMP 和 LongLaMP 上,GLASS 在 ROUGE 指标和 LLM-as-judge 评估中均优于基于检索、微调和激活引导的基线。分析显示 SAE 表示对主题和长度变化更稳健,风格信息与语义残留的解耦更好。
正文 · AI 翻译
摘要:个性化文本生成要求模型从历史数据中捕捉用户特定的写作风格。现有基于检索、参数高效微调或激活引导的方法要么引入推理和存储开销,要么难以将风格信号与语义内容分离。我们提出 GLASS,一个无需训练的个性化生成框架,通过带稀疏先验的全局-局部激活引导实现。GLASS 使用稀疏自编码器从历史回复中提取全局用户风格先验,并在聚类交互场景上构建局部对比风格向量。推理时,它将全局和局部向量联合注入不同模型层,无需检索或参数更新即可实现上下文感知的个性化。在 LaMP 和 LongLaMP 上的实验表明,GLASS 在 ROUGE 指标和 LLM-as-judge 评估上均优于基于检索、微调和引导的基线。进一步分析表明,基于 SAE 的表示对主题和长度变化更稳健,表明风格信息与语义残留的分离更好。
| 评论: | EMNLP2026 Oral,SAC Highlight Award |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2607.21620 [cs.AI] |
| (或此版本的 arXiv:2607.21620v2 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2607.21620 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Liuji Chen [查看邮箱]
[v1]
2026年6月1日星期一 12:42:17 UTC(607 KB)
[v2]
2026年10月29日星期四 14:05:24 UTC(647 KB)
来源:arXiv cs.AI · arxiv.org