arXiv cs.AI· Pramod Kumar, Raj Kumar Pandey·· 3 天前AI 评分42
TurnCost：编码智能体的缓存感知循环工程——轮次而非观测才是成本主因
TurnCost: Turns, Not Observations: Cache-Aware Loop Engineering for Coding Agents
AI 导读
研究分析 600 条编码智能体轨迹发现，轮次数量解释了日志轨迹成本 84% 的方差，而平均观测大小仅占 4%，最昂贵的轨迹轮次最多但观测最小。98.6% 的输入 token 由前缀缓存提供，扁平定价平均高估循环成本约 7 倍。团队发布 TurnCost 工具，可在不同缓存、定价、压缩和路由策略下重新评分轨迹语料。
正文 · AI 翻译
摘要：AI 编程智能体在迭代循环中运行：它们修改代码、运行工具、检查结果，并决定下一步做什么。我们将这一过程的设计称为循环工程，其中包括上下文管理、模型选择、压缩和终止。现有的效率工作主要压缩工具观察结果，或将选定的轮次路由到更便宜的模型，但这些优化的实际机会仍不明确。我们分析了 600 条公开的编程智能体轨迹，涵盖两种智能体脚手架和两种语言模型。中位数观察结果仅包含 118-286 个 token，而常用于推动压缩的大型构建日志出现在接近第 99 百分位处。此外，98.6% 的输入 token 由前缀缓存提供，因此在接近理想缓存的情况下，固定输入定价平均将循环成本高估约 7 倍。
我们推导并实证验证了模型委派的闭式盈亏平衡条件。在评估设置中有一半委派会增加成本，且接近预测边界。更广泛地说，轮次数解释了日志轨迹成本方差的 84%，而平均观察大小仅解释 4%；最昂贵的轨迹尽管观察结果最小，却拥有最多的轮次。这些关联表明，以观察为中心的方法针对的是次要成本因素，并指出不必要的轮次是更大且基本未被审视的机会，不过我们并未确定在保持任务成功不变的情况下可以移除轮次。我们发布了 TurnCost，这是一个用于在替代缓存、定价、压缩和路由策略下重新评分轨迹语料库的工具。
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；新兴技术（cs.ET）；机器学习（cs.LG） |
| ACM 分类： | D.2.8；I.2.2；I.2.11 |
| 引用为： | arXiv:2610.15093 [cs.SE] |
| （或本版本使用 arXiv:2610.15093v1 [cs.SE]） | |
| https://doi.org/10.48550/arXiv.2610.15093 由 DataCite 颁发的 arXiv DOI（待注册） |
|
| 相关 DOI： | https://doi.org/10.1145/3843779.3844635
链接到相关资源的 DOI |
提交历史
来自：Raj Kumar Pandey [查看电子邮件]
[v1]
2026年10月10日星期六 18:03:24 UTC（130 KB）
来源：arXiv cs.AI · arxiv.org