arXiv·· 14 天前AI 评分24
一个 Token 就够了：用 Prefix Steering 打通提示词与激活引导
One Token Can Be Enough: Bridging Prompting and Activation Steering with Prefix Steering
AI 导读
研究提出 Prefix Steering，在固定状态注意力假设下给出单 Token 与多 Token 引导匹配提示词所诱发注意力头输出的充分条件，并刻画输入表示变化对该匹配及近似误差的影响。该工作把提示词与激活引导在注意力层面联系起来，进而追问行为层面两者能否等效。
来源：arXiv · arxiv.org