跳到正文
热点事件持续更新

JEPA用于纵向EHR表示:训练稳定但下游不及MLM

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Ashvin Gupta等作者在MIMIC-IV上检验联合嵌入预测架构(JEPA)能否用于纵向电子健康记录(EHR)序列表示。三种JEPA形式均训练稳定、未出现表示坍缩,但下游表现一致低于标准掩码语言模型(MLM)。 研究还发现,增大预测目标尺寸会提高预测误差,而缩小目标尺寸并未恢复下游性能。作者据此认为,仅靠稳定的潜空间预测不足以学到有竞争力的EHR表示。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv cs.AI
    JEPA 用于纵向 EHR 序列表示是否有效?基于 MIMIC-IV 的实证研究

    研究在 MIMIC-IV 上检验 Joint-Embedding Predictive Architectures(JEPA)能否用于纵向电子健康记录(EHR)序列表示,三种 JEPA 形式均训练稳定、无表示坍缩,但下游表现一致低于标准 MLM。目标尺寸而非目标异质性会增大预测误差,缩小目标尺寸也未恢复下游性能,说明仅靠稳定的潜空间预测不足以学到有竞争力的 EHR 表示。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。