跳到正文
arXiv cs.AI· Mani Nagarathnam, Luke Benham, Paul Blazek, John Cashy, Kevin Chung, John Muenning, Hank Voeller, Shane Waxler, Davis White, Alison Callahan, Kevin Dysart, Andrew Loza, Michal A. Mankowski, Mattheus Ramsis, Nigam H. Shah, Karen K. Wong, Rahul Shah·· 1 天前AI 评分31

Curiosity-0826-4B:跨儿科与成人人群的生成式医疗事件序列建模

Curiosity-0826-4B: Generative Medical Event Sequence Modeling Across Pediatric and Adult Populations

AI 导读

Curiosity-0826-4B 发布,这是基于 Epic Cosmos 训练的生成式医疗事件基础模型升级版,参数量从 1B 增至 4.3B,上下文窗口从 8K 扩展至 16K,可零样本模拟患者时间线并生成临床预测。

正文 · AI 翻译

作者:Mani Nagarathnam、Luke Benham、Paul Blazek、John Cashy、Kevin Chung、John Muenning、Hank Voeller、Shane Waxler、Davis White、Alison Callahan、Kevin Dysart、Andrew Loza、Michal A. Mankowski、Mattheus Ramsis、Nigam H. Shah、Karen K. Wong、Rahul Shah

查看 PDF HTML(实验性)

摘要:我们推出 Curiosity-0826-4B,这是基于 Epic Cosmos 训练的生成式医疗事件基础模型的更新版本,通过模拟患者时间线来生成零样本临床预测。Curiosity-0826-4B 纳入了更广泛的患者群体和更丰富的临床事件表示,在两种模型均支持的评价任务上,其表现总体达到或超过 Curiosity-0226 系列中最大的模型 Curiosity-0226-1B。实验室数值预测有所改善,MAE 比 Curiosity-0226-1B 低 18--46%。我们评估了 2--17 岁儿科队列中疾病事件的预测。新发哮喘诊断(0.742--0.785)和哮喘急性发作(0.829--0.852)的 AUROC 与成人参考队列相当,而镰状细胞危象的 AUROC(0.820--0.847)低于成人(0.915)。对已记录死亡的显式表示使得在临终关怀、住院和门诊环境中对成人开展新的死亡预测任务成为可能(AUROC 0.821--0.942)。缩放定律分析指导了计算最优的初始预训练,随后进行带上下文扩展的持续预训练。由此得到的 Curiosity-0826-4B 模型参数更多(4.3B 对 1B),上下文窗口更长(16K 对 8K)。与其前代相比,它处理的训练 token 少 56%,所需训练浮点运算量(FLOPs)为其 2.2 倍。通过将通用的零样本预测策略扩展到儿科患者和更多结局,Curiosity-0826-4B 拓宽了无需训练单独任务特定模型即可开发临床和运营应用的机会。进一步验证应评估本地校准、跨患者亚组和事件频率的表现、时间线完成率以及对新环境的泛化能力,同时开展对临床和运营效用的前瞻性评估。
学科: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2611.15710 [cs.LG]
  (或 arXiv:2611.15710v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.15710

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Rahul Shah [查看邮箱]
[v1] 2026年11月11日星期三 16:53:05 UTC(502 KB)

来源:arXiv cs.AI · arxiv.org