arXiv·· 12 天前AI 评分26
LLM 内部特征是否真被模型使用？区分引导效应与真实机制
Does the Model Use the Feature? Separating Steering from Mechanism in LLMs
AI 导读
针对 LLM 内部特征常被当作机制解读的问题，研究者提出一套实证契约，在自然输入观测到的取值范围内检验特征作用。其中一项测试把表现出某行为的输入中的特征值复制到不表现该行为的匹配输入中（安装），或反向操作（移除）；另一项测试则在上游编辑后恢复该特征。
来源：arXiv · arxiv.org