arXiv cs.AI· Vincenzo Yuto Civale, Andrew David Bagdanov, Alberto Magi·· 3 天前AI 评分24
DNA 基础模型在序列组成之外学到了什么
What DNA Foundation Models Learn Beyond Sequence Composition
AI 导读
研究评估了五个 DNA 基础模型的冻结表征，在 57 个基因组分类数据集和两个基因表达回归任务上与归一化 k-mer 频率对比。简单 k-mer 特征与多数模型相当，NTv3 表现出一致优势：与全局 6-mer 特征拼接后在 57 个数据集中的 46 个上提升（平均 ΔMCC = +0.072），Caduceus 增益较小，其余模型平均 MCC 未提升。
正文 · AI 翻译
摘要：基因组基础模型（FM）是否提供了超越简单序列组成的预测信息？我们在 57 个基因组分类数据集和两个探索性基因表达回归任务上，评估了来自五个 DNA FM 的冻结表示与归一化 k-mer 频率的对比。简单 k-mer 特征与大多数模型相比仍具竞争力，而 NTv3 显示出持续的优势；该排名在全局固定和多尺度 k-mer 基线以及替代下游探针下均保持稳健。为直接检验增量预测效用，我们在匹配的随机森林协议下，将全局 6-mer 特征与其与每个 FM 嵌入拼接后的结果进行比较。NTv3 在 57 个数据集中的 46 个上有所提升（平均 $\Delta$MCC = +0.072），而 Caduceus 带来的增益较小，其他模型未提升平均 MCC。我们另外将嵌入分解为可由 6-mer 频率线性预测的分量和岭回归残差，发现线性可恢复性并不能可靠地指示下游效用。精确保持 6-mer 的洗牌进一步揭示了任务相关的序列顺序敏感性，在 NTv3 上最为明显，尽管仅凭顺序敏感性并不能保证预测性能提升。我们的结果确立了组成特征作为必要对照，并为评估冻结基因组表示的附加价值提供了补充性诊断方法，但不对微调能力作出任何断言。
| 评论： | 已被 NeurIPS 2026 接收（评估与数据集 Track）。正文 9 页，5 幅主图，附参考文献和附录 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.15711 [cs.LG] |
| （或 arXiv:2610.15711v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15711 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Vincenzo Civale [查看电子邮件]
[v1]
2026年10月11日星期日 15:51:29 UTC（429 KB）
来源：arXiv cs.AI · arxiv.org