arXiv cs.AI· Zhang Liang, Zhang Yukun, Tan Yang, Jiang Fan, Zhong Bozitao, Cheng Xiaoran, Hong Liang, Li Mingchen, Yu Yuanxi·· 10 小时前AI 评分27
VenusGenome：面向微生物基因组表示学习的基因组感知掩码自编码器
VenusGenome: Genome-Aware Masked Autoencoding for Microbial Genome Representation Learning
AI 导读
VenusGenome 是一个基因分辨率掩码自编码器，结合仅可见编码与融入 contig 边界、相对链方向和基因位置的基因组感知注意力，在超 170 万个微生物基因组组装上预训练。其冻结表示在 11 项主要指标中的 9 项上取得所评估模型的最高平均性能，消融实验支持基因组感知注意力的贡献，并显示掩码自编码优于 BERT 式掩码建模、更高掩码比例带来进一步提升。
正文 · AI 翻译
摘要：基因组上下文模型已经表明，将蛋白质嵌入置于上下文中可以改进对微生物功能的预测。我们观察到，一个基因的蛋白质嵌入可以从基因组中邻近基因的嵌入部分预测出来，这促使我们采用高比例掩码，要求从更稀疏的基因组上下文中进行重建。基因组建模还必须区分生物学关系与组装惯例，因为不同 contig 的排序并不意味着相邻，而链标签取决于参考方向。因此，我们引入了 VenusGenome，一种基因分辨率的掩码自编码器，它将仅可见编码与基因组感知注意力相结合，纳入了 contig 边界、相对链方向和基因位置。我们在一个由来自分离株和宏基因组来源的超过 170 万个微生物基因组组装构成的精选语料库上预训练该模型，使用冻结的蛋白质嵌入作为基因级输入。在基因组级表型预测和基因级任务中，所得的冻结表示在十一个主要指标中的九个上取得了所评估模型中最高的平均性能。一项探索性的基因输入扰动分析进一步将表示敏感性与实验测量的适应度缺陷联系起来。消融实验支持了基因组感知注意力的贡献，并显示了掩码自编码相对于 BERT 式掩码建模的优势，且更高的掩码比例带来了进一步的增益。
| 学科： | 基因组学（q-bio.GN）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.05405 [q-bio.GN] |
| （或 arXiv:2611.05405v1 [q-bio.GN] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05405 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Liang Zhang [查看电子邮件]
[v1]
2026年10月20日星期二 09:40:01 UTC（12,468 KB）
来源：arXiv cs.AI · arxiv.org