arXiv cs.CL· Zixuan Wu, Carolyn Jane Anderson, Arjun Guha·· 12 小时前AI 评分42
哪种编程语言最费 token:编程智能体跨语言行为研究
The Best Programming Language for Tokenmaxxing: An Investigation of Coding Agent Behavior Across Programming Languages
AI 导读
一项研究在 Python、Java、Rust 和 OCaml 上评测五个近期模型后发现,编程智能体的 token 消耗会因编程语言不同而出现显著差异,且这一差异在各模型间保持一致。轨迹分析显示,智能体在不熟悉的语言中反复产出无法编译的解法、修改已经通过测试的方案,并倾向用 Python 做原型来绕开目标语言。作者据此提出,按语言衡量的 token 效率应纳入多语言智能体的基准测试与开发。
正文 · AI 翻译
摘要:尽管编码智能体如今在各种编程语言中都非常有效,本文首先表明,其成本(以 token 计)会因编程语言不同而差异极大。我们在 Python、Java、Rust 和 OCaml 的编程问题上评估了五个近期模型。我们严格控制问题难度,并表明 token 消耗可能存在显著差异,且这种差异在各模型间保持一致。为理解原因,我们分析了智能体轨迹的结构和内容。首先,我们重新执行每个中间解,并将每条轨迹抽象为一系列测试结果向量,然后标注相邻解之间的工作。这揭示出智能体在不熟悉的语言中反复产生无法编译的解,并修改已经通过的解。其次,我们分析轨迹文本,发现智能体在代码注释中规划解,不信任提供的测试而偏好自己发明的输入,并通过用 Python 做原型来回避不熟悉的目标语言。我们的结果表明,按语言的 token 效率是基准测试和开发多语言智能体时应考虑的一项指标,并且对于 tokenmaxxer 而言,它也是选择最昂贵工作语言的指南。
| 主题: | 软件工程(cs.SE);计算与语言(cs.CL) |
| 引用为: | arXiv:2607.22807 [cs.SE] |
| (或使用 arXiv:2607.22807v2 [cs.SE] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2607.22807 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zixuan Wu [查看邮箱]
[v1]
2026年7月24日星期五 16:41:59 UTC(65 KB)
[v2]
2026年10月21日星期三 17:35:05 UTC(71 KB)
来源:arXiv cs.CL · arxiv.org