跳到正文
RadarAI· X:Rohan Paul (@rohanpaul_ai)·· 3 小时前AI 评分58

UCLA 与东北大学研究:AI 智能体约 18% 输出 token 属可移除浪费

UCLA研究:AI智能体约18%输出token是浪费

AI 导读

UCLA 与东北大学论文发现,AI 智能体约 18% 的输出 token 是可移除的浪费,剪掉后任务成功率几乎不受影响。研究覆盖 6 个前沿模型和 4 个 benchmark,方法是将智能体调用经代理转发,由 LLM 判定可删除片段后重跑验证。

正文 · AI 翻译

Rohan Paul· @rohanpaul_ai · X·2026-11-09 20:14· 2 小时前AI 评分46

AI 导读

UCLA与东北大学论文发现,AI智能体约18%的输出token属可移除浪费,剪掉后任务成功率几乎不受影响。研究覆盖6个前沿模型和4个benchmark,在Kimi-K3的推理中剪除重复与填充内容后,SWE-bench Verified上减少41%输出token,成功率89.5%对89.0%。作者建议按任务与harness定位浪费来源,而非单纯限制token。

正文 · 原文

UCLA与东北大学的新论文发现,AI智能体约18%的输出token是可移除的浪费,剪掉后几乎不影响任务成功率。

智能体账单通常按总token数计算。这个数字无法告诉你哪些token做了有用的工作,哪些只是重复了某个策略、重新获取了文件,或走进了死胡同。

他们让智能体调用经过一个代理,并用LLM评判器标记出那些删掉也不会损失有用工作的片段。然后他们删除这些片段并重新运行智能体,以确认没有出问题。

在6个前沿模型和4个benchmark上,约18%的输出token是浪费。从Kimi-K3的推理中剪除重复和填充内容后,在SWE-bench Verified上减少了41%,成功率保持在89.5%对89.0%。

要削减智能体成本,应找出你的任务和harness在哪里产生浪费,而不是仅仅限制token。

来源:Rohan Paul · x.com

来源:RadarAI · aihot.news