arXiv cs.AI· G\"unther Schindler, Maximilian Schambach, Johannes H\"ohne·· 6 天前AI 评分29
CASE：用上下文感知语义嵌入增强表格学习器
Enhancing Tabular Learners with Context-Aware Semantic Embeddings
AI 导读
研究者提出 CASE（Context-Aware Semantic Embeddings）框架，将 LLM 的语义理解与表格学习器的统计能力结合。CASE 用数据集代表性行样本预填充基于 Gemma 3 定制训练的表格语言模型 KV cache，使生成的行嵌入动态上下文化。
正文 · AI 翻译
摘要：尽管现代表格学习器擅长捕捉统计模式，但它们往往在语义真空中运行，将文本特征视为离散符号，忽略了特征名称或单元格条目中固有的丰富语义。我们提出 CASE（上下文感知语义嵌入），这是一个新颖的框架，弥合了大型语言模型（LLM）的语义理解与表格学习器的统计能力之间的差距。与将行孤立嵌入的现有方法不同，CASE 采用上下文策略：我们用具有代表性的行样本预填充自定义训练的基于 Gemma 3 的表格语言模型的 KV 缓存，以建立数据集语义的持久锚点。这确保生成的行嵌入被动态地上下文化，解决语义歧义并将表示锚定在特定领域的上下文中。我们在多个基准（CARTE、TextTab 和 TabArena）上的实验表明，CASE 在语义丰富的数据集上显著提高了表格学习器的性能，尤其是在低数据量情况下。
| 学科： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2608.03565 [cs.AI] |
| （或 arXiv:2608.03565v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.03565 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Günther Schindler [查看电子邮件]
[v1]
2026年8月4日星期二 12:29:37 UTC（3,006 KB）
[v2]
2026年10月9日星期五 10:55:21 UTC（976 KB）
来源：arXiv cs.AI · arxiv.org