arXiv cs.CL· Adil Amin·· 10 小时前AI 评分31
研究：维度缩放中的结构——通过维度缩放探测神经对称性
Structure is in the zoom: probing neural symmetry through dimensionality scaling
AI 导读
研究指出，参与率对子样本大小的斜率并非系统固有属性：同一块 11000 个小鼠 V1 神经元在随机刺激子集、漂移方向和神经元数量三种切分下分别给出 0.25、0.31、0.35 三个斜率，只有中间一个携带结构。
正文 · AI 翻译
摘要：一个神经群体所测得的维度中，有多少是编码本身，又有多少是测量行为本身？皮层群体以及语言模型各层中，参与率对子样本量的斜率被报告为一个属于该系统的数值。事实并非如此。一万一千个小鼠 V1 神经元中的一小块区域返回了三个斜率：沿随机刺激子集为 0.25，沿漂移方向为 0.31，沿神经元数量为 0.35，而只有中间那个携带结构；另外两个是采样下限。
我们把每个指数拆分为该下限与沿某一声明轴获得的偏移，并将该偏移与两个零假设对照：置换标签，以及仅在共享同一干扰因素的样本之间置换标签。在 V1 上，方向对齐的偏移在八次光栅记录中的八次都通过了标签零假设，在第二个实验室的 32 只动物中的 32 只上均为正值，并且读出了编码 O(2) 对称性的两个扇区。偶扇区决定阶梯如何起步：它决定添加类别的哪种顺序爬升更快，在等变网络中预测出相反的顺序，并在粗粒化下按一个闭式因子流动，该因子说明了朝向柱对介观尺度信号的作用。奇扇区由方向选择性神经元承载，使阶梯在超过一半类别后仍继续爬升。在语言模型上，同样的拆分在五种架构上把从 token 继承的内容与随深度构建的结构区分开来，而第二个零假设表明，一个二十个标准差的语法性信号完全是载体组成。有了下限和声明的轴，维度缩放就是一种轴分辨的测量，而当该轴遵循已知对称性时，它就能分辨出编码的扇区内容。该仪器 rung 不训练任何探针，可逐层读取任意数组或任意 Hugging Face 模型（此 https URL）。
| 评论： | 63 页，20 幅图。代码、数据和 rung 工具：此 https URL |
| 主题： | 神经元与认知（q-bio.NC）；无序系统与神经网络（cond-mat.dis-nn）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.08506 [q-bio.NC] |
| （或 arXiv:2611.08506v1 [q-bio.NC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08506 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Adil Amin [查看电子邮件]
[v1]
2026 年 9 月 16 日星期三 03:08:01 UTC（2,708 KB）
来源：arXiv cs.CL · arxiv.org