arXiv cs.AI· Yihan Wang, Peiyu Liu, Runyu Chen, Wei Xu·· 12 小时前AI 评分31
AutoProfiler：用反馈学习为 GPU kernel 优化选择性能分析指标
Less is more: learning what to profile for GPU kernel optimization
AI 导读
研究者提出 AutoProfiler，一个从优化反馈中学习确定性 profiling 树的反馈驱动框架，通过 REWRITE 和 SPLIT 操作迭代精炼，由 LLM 生成候选修改、实证评估决定是否采纳。
正文 · AI 翻译
摘要：大型语言模型近期在自动优化 GPU 内核方面展现出强大潜力，但其效果在很大程度上取决于内核优化模型可获取的硬件信息。现有系统通常依赖预定义的性能分析策略，使得“分析什么”基本游离于优化过程之外。我们表明，有效的性能分析并不只是收集更多信息：增加性能分析指标的数量并不会单调地改善内核优化，而最有用的性能分析信息因内核而异。我们的理论分析进一步表明，在这种异构的性能分析效用下，以内核为条件的选取可以优于任何单一固定的性能分析配置。受此观察启发，我们提出 AutoProfiler，一个由反馈驱动、从优化反馈中学习确定性性能分析树的框架。该树通过 REWRITE 和 SPLIT 操作迭代精炼，由 LLM 生成候选修改，并通过实证评估决定是否接受。构建完成后，该树能快速为任意内核收集所需的性能分析信息，使 LLM 重写器只需被调用一次。在 KernelBench 上的实验表明，在受限的性能分析预算下，我们的方法相比固定性能分析配置改善了内核优化。这些结果表明，硬件性能分析应当从静态指标收集转向性能分析推理，使性能分析本身成为改进内核优化的新维度。代码可在 此 https URL 获取。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.36576 [cs.LG] |
| （或 arXiv:2610.36576v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36576 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yihan Wang [查看邮箱]
[v1]
2026年10月27日 星期二 03:31:23 UTC（2,012 KB）
来源：arXiv cs.AI · arxiv.org