跳到正文
arXiv cs.AI· Rishav Mukherjee, Jeffrey Ahearn Thompson·· 3 天前AI 评分20

JEDI-net:联合嵌入与动态集成网络

Joint Embedding with Dynamic Integration network (JEDI-net)

AI 导读

JEDI-net(Joint Embedding with Dynamic Integration Network)是一种统一架构,在优化过程中周期性对 SHAP 值聚类,识别具有相似特征重要性模式的潜在子群,并将其身份直接嵌入网络,使预测能适应每个观测的预测结构。该工作基于此前的 FORCE 方法,后者已证明按特征重要性画像聚类可提升神经网络性能。

正文 · AI 翻译

查看 PDF

摘要:深度学习已成为机器学习的主要形式,部分原因在于它能够从数据中自动构建复杂的元特征。然而,即使是深度学习特征,也可能因未观测到的潜在因素而表现不稳定。显式地纳入潜在因素信息,可以让模型根据这些推断出的因素改变自身行为,从而提升性能。由于神经网络通常能内在地捕捉这种复杂性,对原始特征空间进行外部聚类带来的收益有限。按特征重要性剖面而非原始特征对观测进行聚类,提供了一种有原则的方法来揭示潜在结构,因为具有相似重要性模式的观测可能共享预测动态。在此前的工作中,我们提出了面向特征的聚类与解释表示(FORCE),并表明这种方法可测量地提升了神经网络性能。在本文中,我们提出 JEDI-net(联合嵌入与动态集成网络),这是一种统一架构,在优化过程中定期对 SHAP 值进行聚类,以识别具有相似特征重要性模式的潜在子群,并将其身份直接嵌入网络中,使预测能够适应每个观测的预测结构。
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.17314 [cs.LG]
  (或 arXiv:2610.17314v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.17314

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Rishav Mukherjee [查看电子邮件]
[v1] 2026年10月12日星期一 19:13:24 UTC(406 KB)

来源:arXiv cs.AI · arxiv.org