arXiv cs.AI· Deepak Panigrahy, Aakash Tyagi, Stephen Abkin, David Kebo Houngninou, Rabi Mahapatra·· 3 天前AI 评分29
A-LEMS：面向智能体 AI 系统的目标级能耗核算框架
Energy per Successful Goal: Goal-Level Energy Accounting for Agentic AI Systems
AI 导读
研究者提出 A-LEMS 跨层框架，将 AI 能耗核算单位重新定义为"每成功目标能耗"（EpG），即包含失败与重试的全部工作流能耗除以成功完成的目标数。
正文 · AI 翻译
摘要：当前的人工智能能耗基准测试衡量的是每次模型调用的能耗。对于智能体系统而言，单个用户目标可能触发多步编排、工具调用、重试和故障恢复，调用次数是实现的产物而非任务本身的属性，按每次推理进行归一化会错误地反映完成一个目标的能耗成本。我们提出 A-LEMS（智能体大语言模型能耗测量系统），这是一个跨层框架，将人工智能能耗核算的单位重新定义为每个成功目标的能耗（EpG）：所有尝试（包括失败和重试）的总工作流能耗除以成功完成的目标数。A-LEMS 结合了时间边界模型、将硬件信号（x86 上的 RAPL；ARM 上的 SPBM 和 DCGM）映射到工作流能耗的五层归因流水线，以及将每次测量绑定到硬件、环境和运行时配置的可复现性协议。在 EpG 的基础上，我们定义了编排开销指数（OOI），即在相同成功标准下，匹配目标上智能体与线性 EpG 的比值。在 Intel x86 和 NVIDIA Grace GB10 ARM 上的九个任务族中，仅 CPU 的 OOI 范围为 0.35 倍到 11.07 倍。计入 GPU 动态能耗（在本地推理中占智能体 EpG 的 83.8%）后，这一范围扩大到 0.4 倍到 26.48 倍，因此仅 CPU 测量会将推理任务的开销低估约两倍。对于远程推理，网络等待能耗使 OOI 从 2.5 倍变为 2.35 倍。该开销源于编排结构（规划、重试、恢复）所引发的额外推理调用，而非单次调用成本更高。该指标并未被高估：在 x86 上，单一工具计算器调度的 OOI 反转为 0.61 倍（95% 置信区间 [0.35, 0.97]）。通过 EpG 和 OOI 进行目标级核算，为智能体人工智能的基准测试提供了测量基础。
| 评论： | v2：37 页。新增 ARM 平台（NVIDIA Grace GB10）及 GPU（DCGM）和网络等待能耗、九个任务族、自助法置信区间、随机重试模型，以及新合著者 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG）；性能（cs.PF） |
| 引用为： | arXiv:2605.22883 [cs.AI] |
| （或使用 arXiv:2605.22883v2 [cs.AI] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2605.22883 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Deepak Panigrahy [查看电子邮件]
[v1]
2026 年 5 月 20 日星期三 22:55:19 UTC（240 KB）
[v2]
2026 年 10 月 12 日星期一 16:19:56 UTC（1,078 KB）
来源：arXiv cs.AI · arxiv.org