跳到正文
arXiv cs.AI· Zahra Khodagholi, Niloofar Yousefi·· 4 小时前AI 评分20

可表示但未学到:编码秩与交互预测下限

Representable but Unlearned: Encoding Rank and the Interaction-Prediction Floor

AI 导读

研究者提出一种无需标签或拟合预测器的方法,从编码器与对比设计计算可达对比空间,并给出确定性解码器的经验平方误差下限。在 siRNA 面板上,图神经网络的训练专用特征掩码将 165 个测量状态合并为 90 类,把 140 个交互对比的秩降至 72,下限为 0.009980,占记录对比能量的 14.63%。该方法可定位编码施加的限制并追溯到具体特征,但本身不能预测重拟合收益或解释剩余误差。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:输入编码可能使预测器无法联合复现测得的交互作用,即使每个交互作用单独来看都是可表示的。我们在不依赖标签或预测器拟合的情况下,从编码器和对比设计计算出可达的对比空间。将测得的对比投影到该空间上,可为任何使用该编码的确定性解码器给出经验平方误差下限。在一个 siRNA 面板上,图神经网络的仅训练用特征掩码将 165 个测得状态合并为 90 个类别,使 140 个交互对比的秩降至 72。该下限为 0.009980,即记录对比能量的 14.63%,也就是对每个对比都预测零时的均方误差。其占拟合交互误差的 14.6% 份额影响甚微:预测的交互作用几乎为零,其 MSE 为 0.068335,略高于同一对照的 MSE。反义边际份额更大:占记录能量的 36.49%,占拟合误差的 38.1%。恢复三个化学列即可达到满秩。移除整个掩码可消除该下限,但重新拟合仅使交互 MSE 改善 0.000017;恢复的特征仍未出现在训练输入中。另外两个面板阐明了该诊断方法的适用范围。一个已发布的剪接预测器以单射方式编码,并保留 1,986 的完整设计秩,因此其下限为零。对于脂质面板上一个独立的计数指纹编码器,800 个两两不同的编码对比行的秩为 740,暴露出 60 个被重复行检查遗漏的限制。该诊断方法可识别编码施加的限制,并能将其追溯到具体特征。它将可表示性与学习到的准确度区分开来,但本身并不能预测重新拟合的收益,也不能解释剩余误差。
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2609.36208 [cs.LG]
  (或使用 arXiv:2609.36208v2 [cs.LG] 查看此版本)
  https://doi.org/10.48550/arXiv.2609.36208

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Zahra Khodagholi [查看电子邮件]
[v1] 2026 年 9 月 28 日星期一 20:09:11 UTC(856 KB)
[v2] 2026 年 11 月 16 日星期一 23:26:31 UTC(1,011 KB)

来源:arXiv cs.AI · arxiv.org