arXiv cs.CL· Pantea Karimi, Roozbeh Bostandoost, Dany Rouhana, Siva Kesava Reddy Kakarla, Pooria Namyar, Mohammad Alizadeh, Venkat Arun, Behnaz Arzani·· 10 小时前AI 评分31
TAILOR：用配对 CVaR 目标设计并认证鲁棒的 LLM 生成启发式算法
Robustness Starts with the Objective: Designing and Certifying Robust LLM-Generated Heuristics
AI 导读
TAILOR 框架用候选启发式与基线在同一负载上的成本差配对 CVaR 引导 LLM 合成，负的配对 CVaR 可保证平均性能与尾部最优性差距同时改善，且无需计算未知最优解。
正文 · AI 翻译
摘要：LLM 正越来越多地被用于为计算机系统设计启发式方法。然而，大多数合成框架通过候选方案的平均性能来评估它们，这可能掩盖特定工作负载上的严重性能退化。即使加入对抗性训练输入也无法消除这些退化，而百分位目标（例如针对第 95 百分位进行优化）则忽视了严重退化可能超出所选阈值的情况。
我们提出 TAILOR，一个利用条件风险价值（CVaR）来指导 LLM 合成的框架，该 CVaR 基于每个候选方案与现有基线在同一工作负载上的成本差异。这种成对 CVaR 衡量的是在最差比例的工作负载上的平均差异。我们证明，负的成对 CVaR 能保证相对于未知最优解在平均性能和尾部最优性差距两方面都得到改善，而无需实际计算该最优解。
我们发现，在我们评估的三个案例研究（Azure GPU 批处理准入、Azure VM 打包和服务器放置）中，TAILOR 在所评估的合成目标中实现了最佳的均值—尾部权衡。在七个多样化的优化基准上测试时，TAILOR 生成的启发式方法在其中有六个被以 99% 的置信度证明在平均性能和尾部最优性差距两方面均优于基线。在这六个基准上，TAILOR 在尾部还优于已知的鲁棒性人工设计替代方案，同时在相对于基线的平均性能提升上达到更好或相当的水平。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；分布式、并行与集群计算（cs.DC）；性能（cs.PF） |
| 引用为： | arXiv:2611.00504 [cs.AI] |
| （或 arXiv:2611.00504v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.00504 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Pantea Karimi [查看电子邮件]
[v1]
2026年10月31日星期六 00:49:26 UTC（242 KB）
来源：arXiv cs.CL · arxiv.org