arXiv cs.CL· Huimin Zeng, Yuxuan Lu, Jesse Cai, Eric Hanchen Jiang, Di Wu, Po-Nien Kung, Wenbo Hu, Ziyi Wang, Dakuo Wang, Jiaxin Pei, Kai-Wei Chang·· 11 小时前AI 评分44
AI 智能体如何浪费你的钱？统一框架量化 token 浪费
How Do AI Agents Waste Your Money?
AI 导读
研究者提出一个统一框架，用于跨异构智能体系统测量 token 浪费：记录并归一化完整轨迹，用 LLM-as-a-Judge 识别可删除片段，再映射回原轨迹做 token 级测量。
正文 · AI 翻译
作者：Huimin Zeng、Yuxuan Lu、Jesse Cai、Eric Hanchen Jiang、Di Wu、Po-Nien Kung、Wenbo Hu、Ziyi Wang、Dakuo Wang、Jiaxin Pei、Kai-Wei Chang
摘要：AI 智能体在各类任务中可能消耗大量 token，但其中究竟有多少 token 是真正必要的？尽管已有研究表明智能体可能产生出乎意料的高 token 成本，我们仍缺乏一种系统化的方法来识别和度量 token 浪费。在本工作中，我们提出了一个用于度量异构智能体系统中 token 浪费的统一框架。该框架记录并规范化完整的智能体轨迹，使用 LLM-as-a-Judge（LLMaJ）识别可移除的文本片段，并将识别出的文本片段映射回原始轨迹以进行 token 级度量。我们通过直接干预来验证所识别出的浪费：移除标记的片段、恢复智能体执行，并度量任务结果及后续动作的变化。在在线剪枝实验中，我们在两个不同的智能体基准上移除了模型 41-46% 的推理内容，同时基本保持了任务性能。利用该框架，我们分析了多种设置下的智能体。我们的分析表明，token 浪费具有一种系统级结构，仅靠聚合 token 使用量无法揭示。第一，浪费在不同任务和智能体设置之间的差异大于不同模型之间的差异。第二，推理与可见执行可能表现出不同的浪费模式。第三，即使在相同模型和任务下，不同的运行框架也可能引入不同的低效来源。总体而言，我们的框架将 token 浪费转化为可操作的优化信号，使研究人员和从业者能够训练更高效的模型、设计更好的推理策略，并优化智能体运行框架，以减少不必要的计算，而不仅仅是减少 token 使用量。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.07238 [cs.CL] |
| （或 arXiv:2611.07238v1 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2611.07238 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Huimin Zeng [查看邮箱]
[v1]
2026年11月4日星期三 23:43:03 UTC（1,300 KB）
来源：arXiv cs.CL · arxiv.org