无需训练即可为冻结 LLM 接入 DNA：socket 方法在 GeneHop 基准上显著优于打乱 DNA

查看 PDF HTML（实验性）

摘要：将 DNA 基础模型连接到大型语言模型（LLM）通常需要训练一个连接器，而且往往还需要训练 LLM 本身。我们证明，对于基因层面的问题，一个闭式映射就足够了。我们的方法称为 socket，它拟合一个岭回归（即 plug），从冻结的 Evo 2 特征映射到宿主 LLM 在早期层对基因符号、名称和描述的自身表示。plug 的输出替换占位符位置的隐藏状态，且没有梯度流经宿主。
我们在 GeneHop 上测试了该方法，这是一个按同源性划分的五选一基准。在冻结的分析方案下，对留出测试集进行单次运行，真实 DNA 在全部四个宿主上都优于打乱的 DNA：在 Qwen3.5-4B 上提升 +22.2 分 [19.8, 25.0]，在 Qwen3.6-27B 上提升 +26.1 [24.3, 27.9]，在 Mistral-7B 上提升 +16.7 [14.2, 19.7]，在 OLMo-2-7B 上提升 +18.4 [16.2, 21.0]。四项结果均通过 Holm 校正，所有零假设对照与假处理水平的差距都在两分以内，开发集结果与测试集结果的差异在 2.3 分以内。
一条不使用任何任务条目的层规则在三个宿主上被选出；它在对第四个宿主进行任何 DNA-plug 评分之前，就预测出了该宿主的工作层。一个纯文本线性映射让一个 plug 可以供给任何其他宿主，在测试集上的代价至多为 0.9 分。socket 传递了基因身份：最近邻检索恢复了 72-84% 的效果，但 plug 在每个宿主上都以 3.0-5.2 分胜出，并且在不训练同源物的情况下保留了大部分效果。

学科：	基因组学（q-bio.GN）；人工智能（cs.AI）
引用为：	arXiv:2611.05401 [q-bio.GN]
	（或 arXiv:2611.05401v1 [q-bio.GN] 用于此版本）
	https://doi.org/10.48550/arXiv.2611.05401 由 DataCite 颁发的 arXiv DOI

提交历史

来自：Arash Fatehi [查看邮箱]
[v1] 2026年10月16日星期五 19:55:12 UTC（418 KB）