跳到正文
arXiv cs.AI· Stepan N. Ostarkov, Gregorii A. Semakin, Ivan A. Bespalov, Michael G. Medvedev·· 10 小时前AI 评分58

通用基础模型在化学性质预测任务上超越专用化学模型

General-purpose foundation models surpass specialized ones on chemical property prediction tasks

AI 导读

研究比较了化学专用基础模型(ChemBERTa、MoLFormer)与通用基础模型(GPT-6 Astra、Claude Opus 5.5)在化学各领域任务上的准确率。

正文 · AI 翻译

查看 PDF

摘要:基础模型(FMs)从大量无标签数据中学习可复用的表示。在化学领域,相应的数据主要由分子结构构成,这类数据十分丰富,而实验测量数据则较为稀缺。因此,ChemBERTa 和 MoLFormer 等化学基础模型是在多样化的分子结构上训练的,以便能够在小规模实验数据集(在大多数现实场景中少于 100 个数据点)上进行微调,并随后进行性质预测。与此同时,GPT-6 Astra 和 Claude Opus 5.5 等通用基础模型几乎是在所有公开可用的数据上训练的,其中包括人类关于分子性质及其规律的知识。在此,我们比较了化学基础模型与通用基础模型在化学各领域任务上的准确率。引人注目的是,在仅有 60 个实验数据点可用时,通用 GPT-6 Astra 在五项物理化学和量子化学回归任务上优于目前符合条件的化学基础模型。只有当提供 10 倍的数据点时,最好的化学基础模型才能达到 GPT-6 Astra 的性能:在 1,000 和 10,000 个数据点上,它们分别表现出与 Astra 在 60 和 1,000 个数据点上相当的性能。因此,与直觉相反,在数据稀缺的领域,前沿通用基础模型比专门的化学基础模型更适合指导化学研究,这表明学习相关的基本要素(例如化学结构)并不能替代在相关人类知识上的训练。
主题: 化学物理(physics.chem-ph);人工智能(cs.AI)
引用为: arXiv:2610.41899 [physics.chem-ph]
  (或 arXiv:2610.41899v1 [physics.chem-ph] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.41899

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Michael G. Medvedev [查看电子邮件]
[v1] 2026年10月30日星期五 15:37:40 UTC(515 KB)

来源:arXiv cs.AI · arxiv.org