arXiv cs.AI· Jia Yi Zhang, Shivanshu Shekhar, Allison McLevige, Tong Zhang·· 11 小时前AI 评分31
ReMedI:用推理时精炼与自蒸馏实现可控分子优化
ReMedI: Inference-Time Refinement and Self-Distillation for Controllable Molecular Optimization
AI 导读
ReMedI 将分子语言模型作为推理时对齐的基础提议器,用 Metropolis-Hastings 搜索策略引导多目标分子编辑,在 C-MuMOInstruct 和 SMDD 基准上于三个骨干模型上显著提升多目标优化成功率。其搜索轨迹可蒸馏回基础模型,训练所需分子先导物比 C-MORAL 少约 7.8 倍,严格成功率覆盖约为 C-MORAL 的 2.8 倍,并包含分布外任务。
正文 · AI 翻译
摘要:在药物研发中,先导化合物优化必须改善相互竞争的属性,例如提高渗透性并降低毒性,同时限制可能损害先导化合物效力的骨架变化。基于强化学习的后训练(如 C-MORAL)通过微调分子语言模型来直接针对目标优化分子先导化合物,从而解决这一问题,但该方法依赖昂贵的任务特定数据集,并且在实现多目标优化(MOO)方面面临挑战。我们认为,预训练模型可能已经包含零样本生成无法高效达到的有用分子编辑。受零样本生成搜索能力有限的启发,我们开发了一种高效的 Metropolis-Hastings 搜索策略,以更好地探索提议分布。我们提出 ReMedI,它将分子语言模型用作推理时对齐的基础提议器。给定一个先导化合物和一组多目标任务,模型以当前分子为条件提出编辑,而 Metropolis-Hastings 细化在目标引导下对顺序编辑进行指导,以实现属性改善、保持和先导化合物相似性。在 C-MuMOInstruct 和 SMDD 两个基准上,细化在三个骨干模型上改进了冻结的基础模型,与基线相比达到了显著更高的多目标优化成功率。这些搜索轨迹随后可以被蒸馏到基础模型中,从而改进零样本生成和后续搜索,且使用的训练分子先导化合物比 C-MORAL 少约 7.8 倍。ReMedI 实现了约为强化学习基线 C-MORAL 2.8 倍的严格成功覆盖率,包括在分布外任务上,并具有匹配的先导化合物相对相似性。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.32103 [cs.LG] |
| (或 arXiv:2610.32103v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.32103 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Jia Yi Zhang [查看电子邮件]
[v1]
2026年10月23日星期五 03:07:35 UTC(4,818 KB)
来源:arXiv cs.AI · arxiv.org