清华与微软提出 HarnessMM,DeepSeek Harness 在 HumanEval 上省 87.93% token
清华微软新法让 DeepSeek Harness 省 87.93% token
清华与微软的论文提出 HarnessMM,让模型预先写出带校验条件的后续命令,工具结果通过校验就直接执行并跳过 LLM 调用。在 98 个 HumanEval 任务上,DeepSeek Harness 成功率从 71.43% 升至 85.71%,token 用量比原版减少 87.93%;Codex 成功率保持 90.82%,token 用量减少 29.54%。
Rohan Paul· @rohanpaul_ai · X·2026-11-02 16:51· 2 小时前AI 评分46
AI 导读
清华与微软论文提出 HarnessMM,让模型预先写出带校验条件的后续命令,工具结果通过校验就直接执行、跳过 LLM 调用。在 98 个 HumanEval 任务上,DeepSeek Harness 成功率从 71.43% 升至 85.71%,token 用量比原版减少 87.93%;Codex 成功率保持 90.82%,token 用量减少 29.54%。
正文 · 原文
清华与微软的新论文发现,在 98 个 HumanEval 任务上,DeepSeek Harness 的 token 用量比其原版减少了 87.93%,同时成功率从 71.43% 升至 85.71%。
Codex 和 DeepSeek Harness 等智能体工具会在每次工具返回结果后调用 LLM 来选择下一步。而这一步往往早已确定,比如代码编译通过后就运行测试。
HarnessMM 让模型预先写出后续命令及其确切参数,并为每条命令附带一个校验条件,例如构建成功。当工具结果通过校验时,智能体就直接执行该命令,跳过 LLM 调用。
在 98 个 HumanEval 任务上,Codex 保持了 90.82% 的成功率,同时 token 用量比普通 Codex 减少 29.54%。DeepSeek Harness 的成功率从 71.43% 升至 85.71%,token 用量比原版减少 87.93%。
如果你的智能体执行的是可预测的链条,比如编写、构建、测试,就让模型一次性规划好这些步骤并附带通过校验,而不是每一步都重新询问。
来源:Rohan Paul · x.com
来源:RadarAI · aihot.news