arXiv cs.AI· Miruna Cretu, Alex Abrudan, Antonia Panescu, Tynan Perez, Rishabh Anand, N. Benjamin Erichson, Michael W. Mahoney, Samuel Blau, Joseph Jacobson, Rafael G\'omez-Bombarelli, Rex Ying, Tuomas Knowles, Pietro Li\`o, Alex Morehead·· 9 天前AI 评分24
Zatom-2：跨领域原子级生成建模的多任务预训练
Zatom-2: Multitask Pretraining on Atomistic Data for Generative Modeling across Domains
AI 导读
Zatom-2 是一个在 OMol25 和 OMat24 电子结构数据集约 500 万个结构上预训练的原子级生成模型，采用多尺度 Transformer 架构与条件流匹配，支持力条件控制和生成、结构预测、能量与力预测等预训练任务。
正文 · AI 翻译
作者：Miruna Cretu、Alex Abrudan、Antonia Panescu、Tynan Perez、Rishabh Anand、N. Benjamin Erichson、Michael W. Mahoney、Samuel Blau、Joseph Jacobson、Rafael Gómez-Bombarelli、Rex Ying、Tuomas Knowles、Pietro Liò、Alex Morehead
摘要：统一的原子级建模有潜力通过连接数据丰富的化学领域与数据稀缺的生物学场景，加速化学、材料科学与生物学的发现。然而，现有的原子级建模生成方法仍高度局限于特定科学学科（化学或生物学），或者未能同时利用大规模有机（分子）和无机（材料）数据进行通用预训练。为此，我们提出了 Zatom-2，一个原子级生成模型，在来自 OMol25 和 OMat24 电子结构数据集的大约五百万个结构上进行了预训练。Zatom-2 采用多尺度 Transformer 架构，并结合条件流匹配，支持力条件以及生成、结构预测、分子与材料能量和力预测等基础预训练任务。在实证上，Zatom-2 比 Zatom-1 实现了更好的分子分布保真度，并在现有的分子和材料生成基准上取得了强劲表现。Zatom-2 展示了在低力和高力状态下控制样本生成的能力，并通过联合生成-预测预训练和迁移学习，在低数据场景下增强了蛋白质生成，将长度外推设置下的蛋白质骨架可设计性从无预训练时的 67.8% 提高到在 2,000 个蛋白质结构域上微调后的 74.8%。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.11454 [cs.LG] |
| （或本版本的 arXiv:2610.11454v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2610.11454 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：N. Benjamin Erichson [查看电子邮件]
[v1]
2026年10月8日星期四 08:09:17 UTC（11,304 KB）
来源：arXiv cs.AI · arxiv.org