arXiv cs.AI· Yi Ding, Li Shang·· 13 小时前AI 评分31
Formulaic：用语言模型智能体做 AI 基础设施的软硬件协同设计
Learning to Formulate: Agentic Hardware-Software Co-Design of AI Infrastructure through Progressive Optimization and Verification
AI 导读
Formulaic 将 AI 基础设施设计拆分为三步：智能体编写数学形式化问题，求解器在其内优化，验证与测量检查假设和结果。在 NVIDIA GB10 上，智能体编写的模板运行完整 Qwen3-8B 层比 SGLang 快 1.075 倍；模拟 Ventus GPU 研究中，联合设计将 Qwen2.5-0.5B 最差场景周期降至参考的 0.428，纯软件方案为 0.934。
正文 · AI 翻译
摘要：AI 基础设施，即用于训练和运行 AI 模型的芯片与软件，是按层设计的。分层让系统易于管理，但也固定了优化器可以考虑的选择。需要芯片与其软件协同改变才能获得的收益，在优化开始前就被排除在外：公式化表述将它们排除在外。语言模型智能体使重新审视这些边界成为可能，但智能体的提议本身无法证明某个设计是正确的或最优的。我们提出 Formulaic，一种分工流程。智能体编写公式化表述，数学求解器在其中进行优化，验证与测量则检查其假设和结果。智能体逐步细化问题，从计算图走向芯片。每一步都是一个模板：一族程序及其正确的条件。墙松弛通过为约束软件的硬件限制定价来搜索芯片。本文迈出第一步，通过独立研究而非一次端到端运行。在 NVIDIA GB10 上，智能体编写的模板运行完整的 Qwen3-8B 层比 SGLang 快 $1.075\times$。在模拟的 Ventus GPU 研究中，联合设计将 Qwen2.5-0.5B 的最坏场景周期降至参考值的 0.428，而仅软件为 0.934。在五步 GEMM 细化链上，复用证明使检查速度提升 $2.51\times$。
| 主题： | 硬件架构（cs.AR）；人工智能（cs.AI）；分布式、并行与集群计算（cs.DC） |
| 引用为： | arXiv:2610.39380 [cs.AR] |
| （或 arXiv:2610.39380v1 [cs.AR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.39380 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yi Ding [查看邮箱]
[v1]
2026年10月29日星期四 05:15:00 UTC（383 KB）
来源：arXiv cs.AI · arxiv.org