arXiv cs.AI· Mihnea Sebastian Burlacu, Ionut Anghel, Tudor Cioara·· 1 天前AI 评分24
基于微调 Microsoft Phi-2 的合成临床数据生成与医疗预测分析
Fine-Tuned Small Language Model for Synthetic Clinical Data Generation and Predictive Healthcare Analytics
AI 导读
研究者用 QLoRA 在 MedQuad 数据集上对 Microsoft Phi-2 做监督微调并结合 few-shot 提示，使其适配医疗领域并生成结构化合成临床数据。
正文 · AI 翻译
摘要：医疗数据集可用性的降低是远程医疗解决方案预测模型开发中的一个重要挑战，尤其是当可用数据不平衡或难以通过传统方法扩展时。小型语言模型（SLM）因其较低的计算需求和对专门任务的可适应性，已成为解决这些局限性的、有望替代大型语言模型（LLM）的方案。然而，其性能仍然高度依赖于可用训练数据的质量和代表性。在本文中，我们提出了一种基于微调 Microsoft Phi-2 模型的临床数据增强方法，该模型用于生成合成实例，目的是改进用于预测远程监测生命体征的深度学习模型。Phi-2 模型通过在 MedQuad 数据集上进行监督微调、基于量化低秩适应（QLoRA）的方法以及应用少样本提示技术，被适配到医学领域。随后，所得模型被用于增强一个小规模数据集，该数据集由生命体征值以及与病理和生理状态相关的标签组成。实验结果表明，微调后的 SLM 在医学领域提升了性能，与预训练模型相比，在词汇（ROUGE）和语义（BERTScore）评估指标上均取得了更高的分数。此外，微调后的 SLM 在生成结构化合成临床数据方面是有效的。当用于数据增强时，生成的数据集提升了 LSTM 预测模型的性能，将分类准确率从 89.0% 提高到 93.7%，并在精确率、召回率和 F1 分数上表现出持续改进。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.16460 [cs.AI] |
| （或 arXiv:2611.16460v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.16460 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ionut Anghel [查看电子邮件]
[v1]
2026年11月12日星期四 08:12:17 UTC（988 KB）
来源：arXiv cs.AI · arxiv.org