arXiv cs.CL· Gunhee Cho, Yun-Gyung Cheong·· 12 小时前AI 评分31
Personality Latents:用本人写作让冻结语言模型模仿个人性格
Personality Latents: Conditioning Frozen Language Models on Individuals from Their Own Writing
AI 导读
Personality Latents(PL)无需性格标签或自撰档案,直接从个人写作中学习隐变量,并以软前缀注入冻结语言模型。在 MBTI 各轴上,PL 的 AUC 超过 persona embedding 与基于提示词的基线,且在三种嵌入空间评分下排名一致。用 Qwen2.5-3B-Instruct 学到的隐变量仅通过新适配器即可迁移到 Llama-3.1-8B-Instruct。
正文 · AI 翻译
摘要:控制语言模型的人格通常依赖书面简介或命名的特质类别,因此它只能表达作者写下的内容或分类体系所命名的内容。我们转而提出人格潜变量(Personality Latents,PL),它从每个人自己的写作中为其学习一个潜变量,无需人格标签,也无需作者撰写的简介,并将其作为软前缀注入冻结的语言模型中。遵循生成式潜变量优化,每个训练对象获得一个自由潜变量,该潜变量通过冻结模型本身进行优化,同时一个编码器学习预测这些潜变量,从而使新对象只需一次前向传播,并可在测试时进行可选细化。我们在留出对象上进行评估:让经过条件化的模型回答中性问题和访谈问题,并用在真实人类写作上训练的评分器从其回答中读取人格。在 MBTI 各轴上,PL 达到的 AUC 为 ,在相同设置下领先于人格嵌入和基于提示的基线,并且当回答在三种不同的嵌入空间中进行评分时,该排名依然成立。用 Qwen2.5-3B-Instruct 学到的潜变量也能仅通过一个新的适配器将人格迁移到 Llama-3.1-8B-Instruct。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.36805 [cs.CL] |
| (或 arXiv:2610.36805v1 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.36805 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Gunhee Cho [查看邮箱]
[v1]
2026年10月27日星期二 08:08:06 UTC(605 KB)
来源:arXiv cs.CL · arxiv.org