JEPA用于纵向EHR表示:训练稳定但下游不及MLM
热点事件持续更新
JEPA用于纵向EHR表示:训练稳定但下游不及MLM
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Ashvin Gupta等作者在MIMIC-IV上检验联合嵌入预测架构(JEPA)能否用于纵向电子健康记录(EHR)序列表示。三种JEPA形式均训练稳定、未出现表示坍缩,但下游表现一致低于标准掩码语言模型(MLM)。 研究还发现,增大预测目标尺寸会提高预测误差,而缩小目标尺寸并未恢复下游性能。作者据此认为,仅靠稳定的潜空间预测不足以学到有竞争力的EHR表示。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
JEPA 用于纵向 EHR 序列表示是否有效?基于 MIMIC-IV 的实证研究报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.AIJEPA 用于纵向 EHR 序列表示是否有效?基于 MIMIC-IV 的实证研究
研究在 MIMIC-IV 上检验 Joint-Embedding Predictive Architectures(JEPA)能否用于纵向电子健康记录(EHR)序列表示,三种 JEPA 形式均训练稳定、无表示坍缩,但下游表现一致低于标准 MLM。目标尺寸而非目标异质性会增大预测误差,缩小目标尺寸也未恢复下游性能,说明仅靠稳定的潜空间预测不足以学到有竞争力的 EHR 表示。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。