arXiv cs.CL· Sina Daneshgar, Raya Namazi, Amirali Khosravi, Pouria Rouzrokh, Bardia Khosravi·· 16 小时前AI 评分38
EdgeDeID:无需真实患者数据训练的 0.6B 临床去标识化模型
EdgeDeID: A 0.6B Clinical De-identifier Trained Without Real Patient Data
AI 导读
EdgeDeID 是一个 0.6B 参数、完全本地运行的临床文本去标识化模型,训练全程不使用真实患者数据,由三个 LLM 教师生成合成病历并统一标注。在 100 条人工核验的合成域内基准上达到 0.994 micro-F1,99% 的病历无遗漏标识符,量化后可在 CPU 上以 615 MB 运行。
正文 · AI 翻译
摘要:使用托管语言模型对临床记录进行去标识化,会泄露该步骤本应保护的信息。我们提出 EdgeDeID,一个 0.6B 参数的仅解码器去标识化模型,它在本地运行,且不使用真实患者文本进行训练:三个 LLM 教师编写合成记录,单个标注器将它们重新标注为统一规范,模型学习输出其所发现标识符的类型化 XML 模式。在包含 100 条记录、标注经人工核验的合成域内基准上,它达到 0.994 的 micro-F1,并在 99% 的记录中未遗漏任何标识符,而八个现成系统中最强者的对应指标为 0.857 和 12%。量化后,它可在 CPU 上以 615 MB 运行。在监督训练的三项增补中,只有验证器适配器有帮助:它以 0.94 AUROC 区分其他系统的完整与不完整输出,而采用召回率加权奖励的强化学习和基于规则的后处理层则未改变域内结果。在 MIMIC ICU 护理记录上,F1 降至 0.48。这些错误遵循我们的合成记录所缺乏的两个特性——电报式风格和低标识符密度——而三个手写的上下文示例在无标注目标数据的情况下恢复了 0.08 F1。
| 评论: | 18 页,2 幅图。正在 ACL Rolling Review (ARR) 审稿中。代码:此 https URL;模型和数据:此 https URL |
| 主题: | 计算与语言 (cs.CL);密码学与安全 (cs.CR);机器学习 (cs.LG) |
| ACM 分类: | I.2.7; J.3 |
| 引用为: | arXiv:2610.33839 [cs.CL] |
| (或 arXiv:2610.33839v1 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.33839 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Sina Daneshgar [查看邮箱]
[v1]
2026 年 10 月 24 日星期六 18:20:52 UTC(154 KB)
来源:arXiv cs.CL · arxiv.org