arXiv cs.AI· Spandan Garg, Vikram Nitin, Yufan Huang·· 14 小时前AI 评分38
Terminus-4B:小模型能否在前沿 LLM 的智能体执行任务中取而代之?
Terminus-4B: Can a Smaller Model Replace Frontier LLMs at Agentic Execution Tasks?
AI 导读
基于 Qwen3-4B 经 SFT 与 RL 后训练得到的 Terminus-4B,在智能体终端执行任务上可媲美 Claude Sonnet / Opus / GPT-5.3-Codex 等前沿模型,且常超越其表现。
正文 · AI 翻译
摘要:现代编码智能体越来越多地将专门化的子任务委派给子智能体,子智能体是更小、更专注的智能体循环,负责搜索、调试或终端执行等狭窄职责。这种架构模式通过将冗长的输出(例如构建日志、测试结果等)隔离在子智能体上下文中,使主智能体的上下文窗口保持干净。通常,当智能体为此类任务使用子智能体时,它们会使用前沿模型作为这些子智能体。在本文中,我们研究了一个经过微调的小型语言模型(SLM)能否在智能体终端执行任务中达到与前沿模型相当的性能。我们提出了 Terminus-4B,这是一个通过监督微调(SFT)和强化学习(RL)使用基于评分标准的 LLM-as-judge 奖励对 Qwen3-4B 模型进行后训练得到的模型,专门用于此任务。在我们涵盖各种前沿模型、训练消融和主智能体配置的广泛评估中,我们发现 Terminus-4B 能够将主智能体的 token 使用量相比无子智能体基线最多减少约 30%,且在 SWE-Bench Pro 和我们内部的 SWE-Bench C# 基准(该基准往往包含大量冗长的执行任务)上对智能体性能没有影响。此外,Terminus-4B 改善了关键指标,表明主智能体依赖子智能体的输出,并且自身执行的终端执行任务更少。我们看到,我们的模型不仅缩小了 Vanilla Qwen 模型与 Claude Sonnet / Opus / GPT-5.3-Codex 等前沿模型之间的差距,而且往往甚至超过了它们的性能。
| 评论: | 当前文章涉及一些产品知识产权问题,需要撤回并重新审批 |
| 主题: | 人工智能(cs.AI);软件工程(cs.SE) |
| 引用为: | arXiv:2605.03195 [cs.AI] |
| (或此版本的 arXiv:2605.03195v3 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2605.03195 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Spandan Garg [查看电子邮件]
[v1]
2026年5月4日星期一 22:24:24 UTC(2,125 KB)
[v2]
2026年7月1日星期三 17:09:23 UTC(1 KB)(已撤回)
[v3]
2026年10月25日星期日 05:15:07 UTC(2,127 KB)
来源:arXiv cs.AI · arxiv.org