arXiv cs.AI· Yu-Sheng Li, Jun-Peng Jiang, Han-Jia Ye·· 3 天前AI 评分26
TabGift:面向表格数据生成的高效上下文基础模型
TabGift: A Context-Efficient Foundation Model for Tabular Data Generation
AI 导读
TabGift 是一个上下文高效的表格基础模型,仅需少量上下文样本即可完成分布建模与数据生成。它用预训练表格编码器将异构表格映射到共享隐空间,由上下文扩散模型在少量干净样本条件下学习去噪,再通过轻量级数据集专属 MLP 解码器还原数据。在 7 个分类和 11 个回归数据集上,TabGift 的合成数据质量持续优于代表性基线,在有限上下文场景下提升尤为明显,且适配与生成速度大幅加快。
正文 · AI 翻译
摘要:表格数据生成旨在从有限的观测中合成逼真的样本,同时忠实捕捉底层数据分布。表格基础模型(TFMs)在多样化的表格任务上预训练,并通过上下文学习进行适配,已展现出强大的预测能力,这表明将这一范式扩展到表格数据生成具有潜力。然而,TFMs 强大的预测性能往往依赖于足够大的上下文集,而表格生成恰恰通常是在目标数据稀缺时才需要。因此,将基础模型范式扩展到生成任务,需要仅从有限上下文中进行可靠的分布推断。为此,我们提出 TabGift,一种上下文高效的表格基础模型,能够仅从少量上下文样本中实现高效的分布建模和有效生成。TabGift 使用预训练的表格编码器将异构表格映射到共享潜在空间,其中上下文扩散模型学习以一小部分干净样本为条件对潜在样本进行去噪。这种设计跨数据集迁移生成先验,并支持从有限上下文进行分布推断,同时轻量级的数据集特定 MLP 解码器将生成的表示映射回原始数据空间。在 7 个分类和 11 个回归数据集上的实验表明,TabGift 在合成数据质量上始终优于代表性基线,在有限上下文设置下提升尤为显著,同时实现了大幅更快的适配和生成。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.16990 [cs.LG] |
| (或使用 arXiv:2610.16990v1 [cs.LG] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2610.16990 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Jun-Peng Jiang [查看邮箱]
[v1]
2026年10月12日星期一 15:43:52 UTC(1,804 KB)
来源:arXiv cs.AI · arxiv.org