跳到正文
arXiv cs.CL· Songtao Li, Yijia Zhang, Jianyuan Yuan, Shidi Zhang, Fengyu Zhang, Hongfei Lin·· 11 小时前AI 评分18

MITE:用多编程语言指令微调与集成方法提升生物医学命名实体识别

Enhancing Biomedical Named Entity Recognition via Multiple Programming Languages Instruction Tuning and Ensemble Method

AI 导读

研究者提出 MITE,将生物医学命名实体识别重构为结构到结构生成任务,把指令与实体输出统一表示为代码格式,并将每条训练样本转换为 Python、C++、Java 等多种编程语言形式以提供结构多样的监督。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:指令微调已成为将大语言模型(LLM)应用于生物医学命名实体识别(BioNER)的常见范式。然而,现有的指令微调方法仍面临两个关键挑战。首先,传统的自然语言指令通常将 BioNER 标注序列化为扁平文本输出,为类型化实体抽取提供的结构约束有限。其次,高质量的生物医学标注数据有限,仅从单一序列化输出形式中学习可能限制结构多样性并降低模型鲁棒性。尽管可以引入外部生物医学知识来缓解数据稀缺问题,但这往往需要耗费高昂的资源构建成本。为应对这些挑战,我们提出 MITE,一种面向 BioNER 的多编程语言指令微调与集成方法。MITE 通过将指令和实体输出均表示为代码格式,将 BioNER 重构为结构到结构的生成任务。具体而言,每个训练实例被转换为多种编程语言格式,包括 Python、C++ 和 Java,同时保持相同的底层实体语义。这些语言特定的表示提供了结构多样的监督信号,且无需外部生物医学知识或额外标注。在推理阶段,MITE 通过实体级投票策略聚合来自不同代码格式的预测,从而降低语言特定的预测方差并提升鲁棒性。在三个广泛使用的 BioNER 数据集上的实验表明,MITE 相较具有代表性的基于 BERT 和基于 LLM 的基线方法取得了有竞争力的性能,并在两个基准上取得最佳结果。消融研究进一步验证了多语言表示的有效性。
评论: 根据审稿人反馈修订并改进
主题: 计算与语言(cs.CL)
引用为: arXiv:2610.02949 [cs.CL]
  (或 arXiv:2610.02949v3 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.02949

由 DataCite 颁发的 arXiv DOI

期刊 参考: 2026 IEEE 生物信息学与生物医学国际会议(BIBM),2026

提交历史

来自:Songtao Li [查看邮箱]
[v1] 2026年10月2日星期五 07:42:44 UTC(458 KB)
[v2] 2026年10月17日星期六 07:17:57 UTC(418 KB)
[v3] 2026年10月23日星期五 11:23:09 UTC(413 KB)

来源:arXiv cs.CL · arxiv.org