arXiv cs.AI· Ashvin Gupta, Joshua Placidi, Brendan Delaney, Alessandra Russo·· 12 小时前AI 评分24
块扩散模型用于纵向电子健康记录:准确性、效率与表征权衡
Block Diffusion for Longitudinal EHR: Accuracy, Efficiency, and Representation Trade-offs
AI 导读
研究在 MIMIC-IV 上以匹配的 tokenisation、上下文长度和模型容量对比块式掩码扩散(BD)与自回归(AR)模型,BD 呈现明显的质量-效率权衡,小 block 配置保留 AR 大部分预测性能且推理显著更快,代表性 B=8 配置评估速度约提升 1.43 倍。
正文 · AI 翻译
摘要:自回归(AR)模型已被证明能够有效地从纵向电子健康记录中进行零样本预测,但对包含时间上聚集且相互依赖的临床事件的轨迹施加了严格的顺序生成。我们在 MIMIC-IV 上,在匹配的分词、上下文长度、模型容量和评估条件下,研究了基于块的掩码扩散(BD)作为替代方案。在不同块大小下,BD 表现出明显的质量与效率权衡,小块配置保留了 AR 的大部分预测性能,同时实现了显著更快的推理。一个具有代表性的 $B{=}8$ 配置实现了约 $1.43\times$ 的更快评估。尽管在大多数设置下生成式推演仍低于 AR,但在 BD 和 AR 表示上进行的冻结线性探针在临床预测任务上取得了几乎相同的性能,表明 BD 学习到了信息量相当的临床表示。增加去噪预算带来的收益递减,而替代解码策略提供的增益有限。总体而言,我们的结果表明,块扩散是一种可行且计算上具有吸引力的纵向 EHR 建模方法,迭代解码的进一步改进为缩小剩余的生成性能差距提供了一条有前景的途径。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.29533 [cs.LG] |
| (或 arXiv:2610.29533v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.29533 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Ashvin Gupta [查看电子邮件]
[v1]
2026年10月21日星期三 10:23:34 UTC(443 KB)
来源:arXiv cs.AI · arxiv.org