arXiv cs.CL· Ihor Vitenko·· 10 小时前AI 评分31
VERS：通过编辑激活解释来引导推理模型
VERS: Steering Reasoning Models by Editing Their Activation Explanations
AI 导读
VERS 将推理轨迹中"存疑点"的解释编辑转化为一个固定方向，并在段落断点处叠加该方向以引导模型推理。在 GSM8K 完整测试集上，生成 token 减少 45.8%，准确率仅下降 0.82 个百分点；MATH-500 上节省 31.3% token，准确率下降 3.05 个百分点。
正文 · AI 翻译
摘要：推理语言模型在作答前会写出一段思维链，其中的许多检查并不会改变最终答案。自然语言自编码器（NLA）用文本解释模型的激活，并从文本重建激活，而编辑解释可以在单个 token 上引导模型。我们研究此类编辑是否也能引导模型的推理方式。我们构建了 VERS（Verbalize、Edit、Reconstruct、Steer）：它将一条推理轨迹中疑点处的解释编辑转化为一个固定方向，并在段落分隔处加入该方向。在完整的 GSM8K 测试集上，VERS 在准确率变化 -0.82 个百分点（pp）的情况下将生成的 token 数减少 45.8%；在 MATH-500 上，它在 -3.05 pp 的情况下节省 31.3%。在半强度下，其在 token 与准确率之间的权衡介于已发表方法 SEAL 与 DEER 之间。借助拟合的仿射映射以及为每个模型调优的强度，该方向可迁移到更大的 Qwen3 模型（最大至 235B-A22B），并节省 30-35% 的 token。然而在竞赛题上，VERS 在每个模型规模下都损失 3-7 pp，且固定方向未能将必要的检查与不必要的检查区分开。
| 评论： | 36 页。代码与检查点：此 https URL |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.03040 [cs.CL] |
| （或 arXiv:2611.03040v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.03040 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ihor Vitenko [查看邮箱]
[v1]
2026 年 11 月 2 日星期一 12:39:13 UTC（285 KB）
来源：arXiv cs.CL · arxiv.org