arXiv cs.AI· Georg Maierhofer, Miles Cranmer, Payel Mukhopadhyay·· 6 天前AI 评分22
Mesh-Native Tokenisation：让预训练基础模型适配非结构化网格数据
Mesh-Native Tokenisation: Retrofitting Foundation Models to Unstructured Data
AI 导读
研究者提出 Mesh-Native Convolution（MNC），一种类似 CNN 的局部感知 tokenisation 层，可将非结构化网格数据编码为潜在表示，使模型在网格数据上训练一次后即可部署到任意非结构化网格，仅需极少重训练。该方法能高效地将网格预训练的基础模型改造适配到非结构化网格，零样本部署在许多情况下即可达到可接受精度，微调几个 epoch 后即超越现有基线。
正文 · AI 翻译
摘要：物理基础模型是构建时空系统通用仿真器的一种日益流行的方法。它们需要分词层，将物理场数据提升为适合动态处理的潜在表示。该层的一个典型选择是卷积编码器，它以局部感知的方式提升场信息，并且可以非常高效地训练。然而，这一选择无法应用于一大类科学计算问题，其中数据表示在非结构化网格上，例如具有曲线边界的域上的模拟。此类数据通常需要图神经网络架构，其训练成本更高，并且以当前使用的形式，其编码信息的方式与 CNN 对应物不同，从而限制了物理仿真器在这些数据范式之间的可移植性。在这项工作中，我们引入了 Mesh-Native Convolution（MNC），一种局部感知的分词层，它以类似于 CNN 的方式编码基于非结构化网格的数据。这种方法使得模型可以在网格数据上训练一次，然后部署到任意非结构化网格，即使这些网格是不规则的，也只需最少的重新训练。我们表明，这种分词方法可用于在非结构化网格上高效地改造网格预训练的基础模型，并提供理论结果以确认该方法与经典 CNN 编码器的一致性。我们展示了这种改造方法的良好性能，在许多情况下即使在零样本部署中也能达到可接受的准确率，并且仅在几个 epoch 的微调后就优于现有基线，从而在两种数据范式之间提供了高效的桥梁。
| 学科： | 计算工程、金融与科学 (cs.CE)；人工智能 (cs.AI)；数值分析 (math.NA) |
| MSC 分类： | 68T07, 65M99 |
| 引用为： | arXiv:2610.12618 [cs.CE] |
| （或 arXiv:2610.12618v1 [cs.CE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12618 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Georg Maierhofer [查看电子邮件]
[v1]
2026年10月8日星期四 18:37:52 UTC（23,310 KB）
来源：arXiv cs.AI · arxiv.org