arXiv cs.AI· Sungguk Cha, Mintae Kim, Youngsub Han, Byoung-Ki Jeon, Sangyeob Lee·· 10 小时前AI 评分26
一致性不等于理解：面向神经场权重读取器的 Orbit 审计
Consistency Is Not Understanding: Orbit Audits for Neural Field Weight Readers
AI 导读
研究用隐藏神经元置换与正 ReLU 缩放等保函数变换审计神经网络权重读取器，发现统计读取器在联合变换下准确率大幅下降，而归一化集合读取器预测保持不变。实验覆盖 480 个独立拟合形状场与 1,000 个 MNIST 场，四个小型冻结语言模型用下一 token 打分取得原始准确率，另有 1,920 个评分会话的推理实验显示相同原始提示在部分样本上生成答案不一致。
正文 · AI 翻译
摘要：从神经网络权重中识别视觉内容，需要将功能信息与任意参数坐标分离。我们通过保持所表示函数不变的隐藏神经元置换和正 ReLU 重缩放来审查这种分离。该研究包含 480 个独立拟合的形状场和 1,000 个 MNIST 场，变换后的副本按来源分组。在形状识别上，统计读取器在联合变换下从 \ShapeRawStats\% 降至 \ShapeJointStats\% 准确率；归一化集合读取器保持 \ShapeNormSet\%，预测不变。四个小型冻结语言模型使用下一 token 评分获得 \LMRange\% 原始准确率。另一项包含 1,920 个评分会话的四配置推理实验，使用生成答案获得 \FrontRawRange\% 原始准确率，而全新的相同原始提示在 \FrontRawRepeatRange\% 的来源上不一致。规范化使等价提示变得相同，但这既不能确立识别，也不能保证生成响应相同。联合正确性/一致性指标、语义线索控制、全新重复以及精确有理数舍入边界将这些失败模式区分开来。其结果是一个可检查的视觉权重读取器评估协议，其主张仅限于所测试的场、提示和执行配置。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.05798 [cs.AI] |
| （或 arXiv:2611.05798v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05798 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Sungguk Cha [查看邮箱]
[v1]
2026 年 11 月 4 日星期三 01:12:33 UTC（146 KB）
来源：arXiv cs.AI · arxiv.org