arXiv cs.AI· Maciej Sypetkowski, {\L}ukasz Smoli{\'n}ski, Remigiusz Kinas, Joanna Krawczyk, Bart{\l}omiej Hofman, Aleksandra Mo{\.z}wi{\l}{\l}o, Micha{\l} Pikusa, Tomasz Jetka, Rafa{\l} Powalski·· 14 小时前AI 评分35
OmicsLM：面向多样本组学推理的多模态大语言模型
OmicsLM: A Multimodal Large Language Model for Multi-Sample Omics Reasoning
AI 导读
OmicsLM 是一个 9B 多模态语言模型，将每个 bulk 或单细胞转录组表示为紧凑的连续嵌入向量，可与自然语言指令及同上下文中的其他样本交错输入。其指令微调语料覆盖 157 个生物学与通用任务组，训练包含 200 亿 token 持续预训练和 521 万轮对话监督微调。
正文 · AI 翻译
摘要：大型语言模型能够对生物学知识进行推理，但它们并非天然具备处理定量组学测量数据的能力。现有方法要么将表达谱转换为冗长的文本表示，往往丢失定量信息，要么将组学编码器连接到语言模型以完成狭窄的任务。我们提出 OmicsLM，一个 9B 多模态语言模型，它将每个批量或单细胞转录组表示为紧凑的连续嵌入，该嵌入可与自然语言指令以及同一上下文中的其他样本交错排列。一项关键贡献是连接实验测量与生物学知识及任务监督的训练语料库。我们结合了将转录组谱与注释和实验结果关联的模板、跨来源连接证据的推理示例，以及带有任务特定质量检查的 LLM 生成监督。指令微调语料库涵盖 157 个生物学和通用任务组。训练包括在 200 亿 token 上的持续预训练和在 521 万对话上的监督微调。我们进一步提出 GEO-OmicsQA，一个与出版物不相交的基准，包含 3,000 个问题，要求模型解释和比较来自真实 GEO 研究的表达谱。OmicsLM 在四个留出注释任务中的三个以及所有六个 GEO-OmicsQA 变体上，在所评估的模型中取得最佳结果，并在 PerturbQA 扰动响应预测上，在比较方法中取得最佳平均性能。消融实验表明，连续组学表示相比纯文本基因列表表示具有明显优势。总之，这些结果表明，定量转录组测量和生物学语言可以集成在一个通用对话模型中，从而支持预测任务和实验样本的语言引导解释。
| 评论： | 47 页（10 页正文，29 页附录），1 张图，16 张表 |
| 主题： | 基因组学（q-bio.GN）；人工智能（cs.AI）；细胞行为（q-bio.CB） |
| 引用为： | arXiv:2605.06728 [q-bio.GN] |
| （或 arXiv:2605.06728v2 [q-bio.GN] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.06728 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tomasz Jetka 博士 [查看电子邮件]
[v1]
2026 年 5 月 7 日星期四 11:27:11 UTC（250 KB）
[v2]
2026 年 10 月 25 日星期日 08:32:57 UTC（241 KB）
来源：arXiv cs.AI · arxiv.org