arXiv cs.CL· Yupeng Chen, Kunxiang Zhao, Xingjian Wang, Yue Zhao, Yijing Wu, Ye Liu, Kai Li, Congliang Chen, Ruoyu Sun·· 12 小时前AI 评分35
TrainBridge：用 GPU 编译证据指导 NPU 训练优化的智能体方法
TrainBridge: Agentic NPU Training Optimization Guided by GPU Compilation Evidence
AI 导读
TrainBridge 提出一种智能体方法，将成熟 GPU 编译栈产出的优化执行作为参考，提取优化意图来指导 Ascend NPU 训练程序重写，并通过迭代 profiling 精化。在覆盖 LLM 预训练、图像分类和视觉语言训练的 4 个负载上平均加速 1.7x，在 27 个 Modded-NanoGPT speedrun 记录上平均加速近 2.0x。
正文 · AI 翻译
摘要：我们研究如何提升 Ascend NPU 上的训练效率。在我们研究的 NPU 训练程序中，算子融合等框架级编译优化仅被部分应用，导致计算碎片化和可避免的执行开销。基于性能分析的调优可以解决这些低效问题，但往往需要代价高昂的试错。为使 NPU 上的训练更高效，我们提出 TrainBridge，一种将 GPU 优化指导迁移到 NPU 训练的智能体方法。TrainBridge 将成熟的 GPU 编译栈所产生的高度优化执行作为 NPU 调优的任务特定参考。它从 GPU 训练执行中提取优化意图，以指导 NPU 程序重写，并通过迭代性能分析进一步优化重写后的程序。我们的 GPU 到 NPU 迁移实验表明，TrainBridge 在涵盖 LLM 预训练、图像分类和视觉语言训练的四个工作负载上平均实现 1.7 倍加速，在 27 个具有高度优化 GPU 实现的 Modded-NanoGPT speedrun 记录上平均加速接近 2.0 倍。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.29171 [cs.CL] |
| （或 arXiv:2610.29171v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29171 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yupeng Chen [查看电子邮件]
[v1]
2026年10月21日星期三 04:00:48 UTC（655 KB）
来源：arXiv cs.CL · arxiv.org