arXiv cs.AI· Fan Yang, Yue Song·· 3 天前AI 评分23
注意力汇形成前的隐藏状态几何：arXiv 研究揭示并调控其形成过程
Before Attention Sinks Form: Hidden-State Geometry Reveals and Modulates Their Formation
AI 导读
一项 arXiv 研究在注意力汇形成前约两到三层处发现隐藏状态的短程谱重组信号，该信号在 Qwen2.5、GLM-Z1 和 GPT-OSS 中均可预测后续汇的形成。研究者仅修改当前注意力计算后隐藏状态的奇异值，即可相对范数匹配的随机谱扰动改变后续汇行为；在 Qwen2.5 中，抑制效应伴随下一层对位置 0 的 query-key 偏好下降。
正文 · AI 翻译
摘要：注意力汇通常是在其形成之后才被研究。我们追问的是：在此之前是否会出现可测量的隐藏状态变化，以及改变这种几何结构是否会改变后续发生的情况。为了排除网络深度这一捷径，我们在同一模型、同一层内比较不同提示。当汇的形成时机在不同提示间存在差异时，隐藏状态的简单谱摘要所提供的信息超出了当前注意力，其中最清晰的提示特异性信号出现在汇形成前约两到三层的短窗口内。预测强度在不同队列间存在差异，因此我们将谱视为汇形成前状态变化的一种读出，而非普适的预警统计量。该信号比单一测得的极端激活更为宽泛。随后，我们仅修改当前注意力已计算完成后的层后隐藏状态的奇异值。相对于范数匹配的随机谱扰动，这些干预改变了 Qwen2.5、GLM-Z1 和 GPT-OSS 中后续的汇行为。在 Qwen2.5 中，即时的抑制效应伴随着下一层对位置~0 的查询—键偏好降低，并且当从大幅减少的训练数据中估计时，所学到的谱方向保持稳定。总之，这些结果表明，注意力汇出现之前，隐藏状态会经历短暂的谱重组，而直接扰动这一几何结构可以因果性地改变后续汇的形成。
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.16745 [cs.LG] |
| （或使用 arXiv:2610.16745v1 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.16745 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Fan Yang [查看邮箱]
[v1]
2026年10月12日星期一 13:14:10 UTC（444 KB）
来源：arXiv cs.AI · arxiv.org