arXiv cs.AI· Tianyi Xu, Yaolun Zhang, Yiran Wu, Joe Nguyen, Shengyu Dai, Saba Moeinizade, Zhenwen Shao, Qingyun Wu, Huazheng Wang·· 3 天前AI 评分39
UCoE:面向开放式任务的无训练自改进的验证器与执行框架协同演化
Verifier-Harness Co-Evolution for Training-Free Self-Improvement on Open-Ended Tasks
AI 导读
UCoE 是一种无训练方法,让可执行验证器程序与智能体的 harness 状态协同演化,所有模型参数保持固定。它通过合成候选验证器程序并在响应对比上测试,选取最弱对比族区分度(驱动容量)最高的候选。
正文 · AI 翻译
摘要:免训练自我改进让智能体利用反馈来修改它即将返回的回复,并更新塑造其处理后续任务方式的 harness 状态。在开放式任务中,这种反馈很少来自参考答案或可执行测试,因此智能体不得不依赖基于模型的验证器。当验证器出错时,当前回复可能变得更差,且误导性经验会在任务流中持续存在。随着智能体回复的改进和任务需求的变化,一成不变的验证器也会逐渐过时。我们提出统一协同演化(Unified Co-Evolution,UCoE),一种免训练方法,它在所有模型参数保持固定的情况下,让可执行验证器程序与智能体的 harness 状态共同演化。UCoE 合成候选验证器程序,并在回复对比上测试它们——即在一项声明属性上不同且已知偏好一侧的回复对。它选择在其最弱对比族上判别力最高的候选,我们将这一量称为驱动能力。所选验证器诊断每个草稿中的一处弱点,指导一次修复,决定提供哪个回复,并确定被接受的修复是否可以进入 harness 状态。随着任务完成,其诊断结果会催生新的候选验证器,这些验证器必须在相同对比上胜过当前验证器才能被采用。在六个开放式基准上,UCoE 使用 Qwen3-8B 时相对于匹配的直接生成平均获得 59.00% 的偏好率,使用 Qwen3.8-27B 时为 57.19%,分别高出 9.00 和 7.19 个百分点。在三个可验证基准上,同一方法将均值从直接生成的 36.06% 提升至 38.48%。代码见 this https URL。
| 评论: | 47 页,5 张图 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.17609 [cs.AI] |
| (或 arXiv:2610.17609v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.17609 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Tianyi Xu [查看邮箱]
[v1]
2026年10月13日星期二 02:29:40 UTC(510 KB)
来源:arXiv cs.AI · arxiv.org