LLM-to-Flow Distillation：用自然语言目标操控药物设计生成模型

Rohan Paul· @rohanpaul_ai · X·2026-10-15 19:26· 2 小时前AI 评分55

AI 导读

ETH Zurich 等机构团队提出 LLM-to-Flow Distillation（LFD），让科学生成模型直接追随自然语言发现目标，如设计具抗癌活性的多肽。

正文

现在你可以用简单的英文输入你的需求，让药物设计模型去追求它。

通常，要让模型生成更好的候选药物，你需要一个针对该确切目标训练的奖励模型。而在这里，他们删掉了这一步，改为让 LLM 仅通过阅读你用英文写下的目标来给输出打分。

任何无力为目标构建评分模型的实验室，如今都有了一条通往受控生成器的路径。这正是将小团队挡在生成式设计门外的门槛，而它刚刚被移开了。

RLHF 在任何地方都面临同样的冷启动问题：如果基础模型从未产生过好的输出，就没有东西可以排序。于是 LLM 先写一个更容易的目标，据此打分，并随着模型变好不断抬高门槛。

基础分子模型在 38,500 个样本中产生了 0 个可用命中。经过几轮这样的迭代后，它在一批 512 个样本中产生了一个。

LLM 的评分很多时候完全是错的，但这并不重要，因为 DPO 只需要“A 比 B 好”，而不需要一个准确的数值。

由 LLM 评分的模型击败了那些被允许直接针对真实评分函数训练的版本，69.06 对 57.04，而它从未见过任何一个分数。

引用Riccardo De Santi@r_de_santi

我们正在将自然语言控制带给任何科学生成器。我们非常兴奋地推出 LLM-to-Flow Distillation（LFD），一种让科学生成器适应高层自然语言发现目标的方法。从诸如“设计具有前景抗癌活性的多肽”或“设计结合 D2 多巴胺受体的小分子”这样的文本目标出发，LFD 通过在 LLM 生成的子目标上进行迭代 DPO，将 LLM 中与高层目标相关的知识蒸馏到科学生成器中。 🔥 LFD 不需要任务特定的代理奖励，可通过 API 访问与任何前沿 LLM 配合使用，并在留出的计算评估中优于 FlowGRPO 和 DiffusionNFT 等最先进的奖励引导方法。(1/6)

在 X 查看被引用的帖子

来源：Rohan Paul · x.com