Orbit审计揭示权重读取器一致性缺陷

Sungguk Cha等作者提交论文，提出Orbit Audits评估协议，用隐藏神经元置换与正ReLU缩放等保函数变换审计神经场权重读取器。结果显示，统计读取器在联合变换下准确率大幅下降，而归一化集合读取器的预测保持不变。 实验覆盖480个独立拟合形状场与1,000个MNIST场，变换副本按来源分组；四个小型冻结语言模型用下一token打分取得原始准确率。另有1,920个评分会话的推理实验显示，相同原始提示在部分样本上生成答案不一致。 作者称该协议可用于检查视觉权重读取器，结论仅限所测试的场、提示与执行配置。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。