arXiv cs.AI· Xinyue Zhang, Jixiang Li, Bin Shao, Baishun Yang, Zhiyang Liu, Weichao Wang·· 11 小时前AI 评分22
小语言模型微调实现可靠 VASP INCAR 生成，Qwen3-4B 超越 GPT-5.4
Fine-Tuning Small Language Models for Reliable VASP INCAR Generation
AI 导读
基于 Qwen3-4B 微调的小语言模型 INCAR-SLM 在 VASP INCAR 生成基准 INCARBench 上超越所有受测通用 LLM，百分制 INCAR Score 比 GPT-5.4 高 15.55 分。
正文 · AI 翻译
摘要：语言模型可以根据自然语言请求准备 VASP INCAR 文件，但迄今为止，只有大型专有云模型才能接近可靠地处理这些紧密耦合、对物理敏感的设置，这种依赖与本地、高通量的材料工作流程并不契合，因为后者看重隐私、成本和离线部署。我们证明，小型语言模型（SLM）可以弥合这一差距。该 SLM 在参考 VASP 计算上进行了微调，并与 VASPGuard 配对使用，后者是一个确定性后处理器，用于检查语法、工作流程和材料相关约束；我们将组合后的模型称为 INCAR-SLM。在 INCARBench（一个用于 VASP INCAR 生成的基准）上，基于 Qwen3-4B 的 INCAR-SLM 优于所有被评估的通用 LLM，在百分制 INCAR Score 上超过 GPT-5.4 达 15.55 分。这一提升主要来自微调，VASPGuard 则纠正了剩余的错误。我们进一步发现，模型规模的重要性低于预期：一旦应用微调和后处理，性能在数十亿参数时即饱和，且 Qwen3-4B 在同一系列中优于更大的模型。
| 学科： | 材料科学（cond-mat.mtrl-sci）；人工智能（cs.AI） |
| 引用为： | arXiv:2608.05387 [cond-mat.mtrl-sci] |
| （或 arXiv:2608.05387v1 [cond-mat.mtrl-sci] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.05387 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Bin Shao [查看电子邮件]
[v1]
2026年8月5日星期三 20:16:26 UTC（831 KB）
来源：arXiv cs.AI · arxiv.org