arXiv cs.AI· Patrick Bl\"obaum, Krishnakumar Balasubramanian, Shiva Prasad Kasiviswanathan·· 4 小时前AI 评分38
FoundCause:从观测数据中发现潜在混杂因素的因果发现基础模型
FoundCause: A Foundation Model for Causal Discovery with Latent Confounders from Observational Data
AI 导读
FoundCause 是一个仅用合成结构因果模型训练的摊销式因果发现基础模型,单次前向传播即可将数据集映射为因果图。其置换等变 Transformer 交替对样本和变量做注意力,边解码器分离边的存在与方向,可学习潜在 token 预测共享隐藏共同原因的变量对。
正文 · AI 翻译
摘要:从观测数据中进行因果发现,需要在无干预的情况下恢复有向关系和潜在混杂。我们提出 FoundCause,一个{\em 摊销式因果发现基础模型},仅使用合成结构因果模型训练,可在单次前向传播中将数据集映射为因果图。一个置换等变 transformer 在样本和变量上交替进行注意力计算,以建模跨变量依赖关系和每个变量的分布。成对依赖与不对称统计量引导其注意力、边解码器和混杂模块。解码器将边的存在性与方向分离,而三角细化则纳入来自链和碰撞结构的证据。可学习的潜在 token 预测哪些变量对共享隐藏的共同原因,掩码输入表示则处理缺失数据。据我们所知,FoundCause 是首个针对独立同分布观测数据、将潜在混杂作为单独显式输出进行预测的摊销式因果发现方法。在 14 个真实世界和半合成数据集上,FoundCause 在平均 AUROC、$F_1$、骨架 $F_1$ 和归一化结构汉明距离($\mathrm{SHD}/d$)上领先 11 个经典基线和 7 个摊销式基线:在 $\mathrm{SHD}/d$ 上明显领先($0.875$ 对 $0.956$),在 $F_1$ 上略微领先($0.531$ 对 $0.516$)。在双变量因果-效应对上,它也是摊销式方法中准确率最高的。
| 评论: | 在 此 https URL 下载模型 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);方法论(stat.ME);机器学习(stat.ML) |
| 引用为: | arXiv:2606.17516 [cs.LG] |
| (或此版本的 arXiv:2606.17516v2 [cs.LG]) | |
| https://doi.org/10.48550/arXiv.2606.17516 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Krishnakumar Balasubramanian [查看电子邮件]
[v1]
2026年6月16日星期二 04:50:01 UTC(83 KB)
[v2]
2026年11月17日星期二 00:07:04 UTC(99 KB)
来源:arXiv cs.AI · arxiv.org