arXiv cs.CL· Xi Yang, Guodong Liu, Chuqin Li, Fan Wu, Ergin Soysal, Min Jiang, Xing He, Jiang Bian, Yi Guo, Shams Zaman, Thomas Fuchs, Yonghui Wu·· 12 小时前AI 评分31
小语言模型生物医学数据到文本生成的后训练对齐研究：以药品说明书为例
Exploring Post-Training Alignment of Small Language Models for Biomedical Data-to-Text Generation: A Case Study of Medication Leaflet
AI 导读
研究基于 Qwen-2.5 模型比较 SFT、DPO、ORPO、GRPO 四种后训练对齐方法在药品说明书生成上的效果，并构建源自 OpenFDA 药品标签的 FDALeaflets 数据集评估零样本跨监管泛化。
正文 · AI 翻译
作者：Xi Yang、Guodong Liu、Chuqin Li、Fan Wu、Ergin Soysal、Min Jiang、Xing He、Jiang Bian、Yi Guo、Shams Zaman、Thomas Fuchs、Yonghui Wu
摘要：将结构化生物医学信息转化为准确、患者友好的叙述文本，仍是一项具有挑战性的生物医学数据到文本（D2T）任务。小型语言模型（SLM）因计算成本更低、部署更容易、数据治理更完善，在医疗应用中颇具吸引力，但训练后对齐对生物医学 D2T 生成的影响尚未得到系统研究。在本工作中，我们使用 Qwen-2.5 模型进行药品说明书生成，比较了四种对齐方法：监督微调（SFT）、直接偏好优化（DPO）、优势比偏好优化（ORPO）和组相对策略优化（GRPO）。我们进一步引入了 FDALeaflets，这是一个源自 OpenFDA 药品标签的数据集，用于在零样本设置下评估跨监管泛化能力。选定的已对齐 SLM 在多项基于参考的指标上优于 GPT-5，而在 LLM-as-judge 评估下，GPT-5 在 FDALeaflets 上取得了更好的幻觉和充分性得分。在无强化学习的对齐方法中，ORPO 取得了最佳的域内语义表现，语义文本相似度（STS）得分达到 0.9752。GRPO 取得了最高的 FDALeaflets STS（0.9407），超过 GPT-5（0.9295）。这些发现表明，训练后对齐是提升生物医学 D2T 生成语义保真度和泛化能力的关键因素，而临床安全性和患者可读性仍需人工验证。
| 评论： | 8 页，1 幅图 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2607.13430 [cs.CL] |
| （或 arXiv:2607.13430v2 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2607.13430 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Xi Yang [查看邮箱]
[v1]
2026年7月15日 星期三 04:22:25 UTC（606 KB）
[v2]
2026年10月21日 星期三 15:03:37 UTC（493 KB）
来源：arXiv cs.CL · arxiv.org