arXiv cs.AI· Jose L. Sampedro Mazon, Ilmi Yoon, Nadim Saad·· 1 天前AI 评分31
系统提示词到底分配了什么角色？验证并引导 LLM 中的职业角色向量
What Roles Do System Prompts Really Assign? Validating and Steering Occupational Role Vectors in LLMs
AI 导读
研究提出一套验证框架，用于提取和注入职业角色向量，并在 Qwen2.5-7B-Instruct 与 Llama-3.1-8B-Instruct 上从可解释性与控制两个角度验证。
正文 · AI 翻译
摘要：基于大语言模型构建的应用通过系统提示为模型分配角色，意图塑造其针对特定用例的响应方式。我们引入一个验证框架，用于提取和注入职业角色向量——即激活层面的方向，捕捉处于某一职业角色的人会如何以独特方式回应任务或问题。我们在 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 上，通过两个互补视角验证这些向量。可解释性视角考察每个向量是否是其角色的稳定、可分离、领域一致的表示：提取的向量在重复运行和采样温度下高度可复现，即使对非常相似的角色也保持可分离，并且跨域内和域外问题时与自身的一致性高于与其他角色信号的一致性。控制视角考察在生成过程中注入角色向量是否能使模型表达该角色，并在对话中维持该角色，效果与角色提示相当。在 Qwen 上，仅注入向量使模型表达预期角色的频率显著高于无引导，但最多只能与角色提示持平；在两个模型上，将向量加入提示能增强单次回答中的角色，但并未减缓角色在 30 轮对话中的衰减。两个视角共同表明为何二者都不可或缺：在域外，角色仅被微妙地表达，但激活仍编码了它；而一个稳定且可分离的向量仍可能几乎无法引导模型的行为。
| 评论： | 正文 11 页，含参考文献和附录共 35 页。代码和数据：此 https URL |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.15989 [cs.CL] |
| （或 arXiv:2611.15989v1 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2611.15989 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jose Sampedro Mazon [查看电子邮件]
[v1]
2026年11月11日星期三 20:43:45 UTC（235 KB）
来源：arXiv cs.AI · arxiv.org