arXiv cs.CL· Stephen Peng, Vineet Jagadeesan Nair, Noah Broestl, Anne Friederike Kleppe, Steven Mills, Adi Zolotov·· 10 小时前AI 评分40
生物医学领域微调大语言模型的安全护栏侵蚀：知识型弃答的配对审计
Guardrail Erosion in Domain Fine-Tuned Large Language Models: A Paired Audit of Knowledge-Centric Abstention in Biomedical LLMs
AI 导读
研究审计了 25 个生物医学领域微调大语言模型与 11 个配对基座检查点，发现知识型适当弃答在微调后进一步下降：MedAbstain 上中位数从基座的 8.3% 降至 4.2%，25 对中有 21 对出现下降。变化幅度与方向在不同模型对之间差异明显，作者据此呼吁在提升领域能力的同时保留适当谨慎的微调方法。
正文 · AI 翻译
摘要：领域微调模型的数量，尤其是在生物医学领域，正在迅速扩大。微调有望以训练基础模型成本的一小部分获得高性能模型，但它也可能产生非预期的行为变化。多项研究表明，安全护栏可能会随着微调而受到侵蚀，然而跨模型架构、数据混合和微调方法的大规模研究仍然有限。此前该领域的工作研究的是以价值观为中心的回绝，而本工作聚焦于以知识为中心的弃答。我们针对 MedAbstain 和 ClinDet-Bench，审计了 25 个生物医学领域微调大语言模型与 11 个配对基础检查点，以评估微调对以知识为中心的弃答的影响。我们发现，由这些基准衡量的既定适当弃答率在基础模型中已经很低（MedAbstain 中位数为 8.3%），在微调后进一步下降（中位数为 4.2%，在 MedAbstain 的 25 对中有 21 对下降），且变化幅度和方向在各对之间具有异质性。这些结果促使人们采用在提升领域特定能力的同时保持适当谨慎的微调方法。
| 评论： | 将发表于第 6 届健康机器学习研讨会（ML4H 2026）论文集，PMLR 第 346 卷 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.08780 [cs.CL] |
| （或 arXiv:2611.08780v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08780 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Stephen Peng [查看电子邮件]
[v1]
2026 年 11 月 5 日星期四 23:03:11 UTC（619 KB）
来源：arXiv cs.CL · arxiv.org