MetaExp:通过可验证跨任务环境扩展让模型从经验中自我改进
MetaExp 通过可验证任务族训练模型的经验学习能力,在 Qwen3.5-122B-A10B 上用 1,000 个任务族的 4,956 条轨迹微调,下游参数冻结下 SpreadsheetBench 提升 +8.5 分、AutomationBench 提升 +14.8 分,APEX-Agents 峰值 +2.3。
MetaExp 通过可验证任务族训练模型的经验学习能力,在 Qwen3.5-122B-A10B 上用 1,000 个任务族的 4,956 条轨迹微调,下游参数冻结下 SpreadsheetBench 提升 +8.5 分、AutomationBench 提升 +14.8 分,APEX-Agents 峰值 +2.3。
研究者提出一种工具增强 LLM 框架,从患者笔记中可靠完成医学计算,在 MedCalc-Bench 上达到 86.73% 最终答案准确率,分别超过 one-shot prompting 和监督微调基线 24.0 和 17.27 个百分点。
TIR-EC 是一个工具集成强化学习框架,将 EHR 特征组作为 LLM 可调用的工具,并用梯度提升树教师模型提供奖励信号。在三个临床预测任务上,其 4B 智能体取得所有对比模型中最高的 macro F1,超越传统 ML 基线,并与规模大得多的前沿 LLM 相当。分析显示它能以更少工具调用选出更有用证据,并更有效地组合测量数据。
研究在九个模型和两个基准上评估工具图记忆,发现其相较基线很少带来显著提升,且即使有效也需付出超过两倍的 LLM 调用成本。其引导常不正确,随机或无引导仍保留大部分增益,说明收益来自额外计算而非记忆本身;将相同经验存为文本洞察则以几乎零额外调用超越工具图记忆。
研究者提出局部上下文蒸馏(LoCD),先定位学生轨迹中需要修正的关键片段,再由教师基于学生自身前缀重新生成这些片段并用于训练学生。在数学推理、代码生成和智能体任务上,LoCD 持续优于强基线,训练更稳定,参数更新更小更稀疏。
研究团队推出 DialFork,首个基于原始对话文本衡量"程序性幻觉"的基准——智能体话语流畅且事实合理,却偏离既定对话流程。该基准通过在受控轮次分叉合规对话并注入四类幻觉构建,覆盖 12 个领域 24 项任务共 36,278 段对话,由 30 名人工标注者验证。
论文提出 JevAgentHarness,把智能体每一步的工具选择等决策委托给决策模型,仅在置信度低于阈值时交由 LLM 决定。作者构建 AgentDecisionBench,覆盖从孤立问题到控制运行中智能体的测试;孤立问题上最准的决策模型仅解决 69.5% 的智能体任务,未拟合置信度阈值时委托工具选择会使成功率下降 19.0 个百分点。
研究提出同策略提醒蒸馏(OPRD),通过多范围提醒监督与基于结果的路由,在无提醒的学生 rollout 上训练长程编程智能体,推理时学生无需提醒即可运行。
Jev-LiteMAS 通过将多智能体工作流中的路由与审查操作交给轻量决策模型 Jev,在四个基准和两个骨干模型上将生成式 LLM token 消耗较 LAS 降低 12.7-54.6%,准确率差距控制在 1.34 个百分点以内,八种设置中有七种延迟下降。
研究者提出 MemCut,一个针对 LLM 智能体用户请求遗忘能力的系统性基准,包含 456 个手工设计的秘密及其完整标注的证据链,用于测试删除后的信息恢复。基准定义原生恢复与残差恢复两项指标,并在五种记忆设计和四种 LLM 上建立三个参考删除基线。结果显示,LLM 引导删除二十个检索候选中的额外十轮对话后,仍残留 39-76% 的恢复率,候选覆盖不足是现有基线的瓶颈。
SpecAgent 是一种协作协议,让弱模型在只读工具调用中起草步骤、强模型通过单次 prefill 并行验证并提交最长语义有效前缀,从而把强模型从每步生成者变为审校者。
研究系统考察了 LLM 检测和纠正车辆路径问题(VRP)实例错误的能力,发现其在复杂实例或大幅增加推理负担的错误上存在明显局限。为此提出自引导推理框架,让 LLM 自主生成代码提供结构化洞察以辅助错误诊断。在多种问题设置和 LLM 上的实验表明,该框架显著提升错误检测性能,达到接近完美的准确率。
FedSkillGit 用 commit 式补丁更新替代整份技能文档上传,实现联邦技能进化:客户端只提交命名规则上的有限补丁及本地经验,经两阶段隐私过滤后由服务器去重合并,候选技能需在客户端验证集上得分提升才发布。在三个数据集和三个语言模型家族上,该方法比 SOTA 基线最高提升 22%,并在不共享原始客户端数据的前提下接近集中式进化效果。
研究者提出 ARGUS(Agenda-dRiven Goal-oriented User Simulator),一种神经符号框架,通过符号操作维护动态议程栈来跟踪用户目标状态,将状态追踪与自然语言生成严格解耦,以实现严格的目标推进和约束对齐交互。
DocPilot 是一个支持表达性编排的智能体文档框架,通过页面级导航与细粒度证据定位,结合局部视觉检查、代码数值推理和跨模态推理,并借助课程式智能体训练将能力迁移至小模型。在 MMLongBench-Doc、DocBench、FinRAGBench-V 和 MADQA 上,DocPilot 搭配前沿 VLM 取得显著提升,DocPilot-4B 性能可媲美更大模型,代码已开源。
CA-MAMBA 将多智能体世界模型中的成本预测移入想象空间,在 SMAC 中位配置上所需交互次数仅为无模型基线的 1/10 至 1/20,在同等预算下 MAMuJoCo 奖励为基线的 2.8 至 12 倍。在每基准单任务的受控测试中,将模型成本优势按平价定价可使成本盲学习者的成本降低一半以上,并满足学习型乘数未能达到的严格连续控制限制,表明模型成本估计并非瓶颈。
OpCredit 是一个操作感知的策略学习框架,通过分支结果信用(BOC)与前沿转移信用(FTC)两个互补信号,为智能体知识图谱问答中每个可执行操作单独评估贡献,而非依赖轨迹级奖励。在 ComplexWebQuestions、WebQSP 和 GrailQA 三个基准、三种骨干模型上,该方法均取得一致的 KGQA 性能提升,推理时仅需已学习的策略和标准 KG 接口。
Mallea 是一个从文本构建、操控和记忆世界的系统,由编码智能体从提示词推断物体交互需求,并联合规划物体结构、属性与规则。世界按规划规则演化,用户操作可实时操控,文本请求可编辑属性或扩展能力且保留未受影响的状态。物体纹理记忆仅对白盒定义的物体保留可复用外观,并随物体变化自适应,程序推进世界状态,生成式渲染器结合当前结构与记忆外观输出画面。
AutoOnboarder 是一个自主系统,让智能体像新员工入职一样被"Onboarder"编码智能体逐步调教,迭代调整基础模型、提示词和 harness 源码以同时提升性能并降低成本。
TRACER 是一种面向 LLM 智能体的工具检索前端,用 trie 索引已观测到的工具调用序列,并通过学习到的经验先验与上下文先验混合排序后续调用。在零售与电信混合的 τ² 环境中,它让 GPT-5.4 的工具选择准确率提升 4.7 个百分点,每步输入 token 减少 80%,仅暴露 128 个工具中的 5 个。
研究提出"承诺解除权限"(standing)概念:只有债权人或被授权方才能解除 AI 智能体对某人的承诺。在受控聊天环境中测试六款模型发现,较小的开源模型会覆盖债权人意愿(Qwen3.5-9B 达 69%),较大的模型则会因同伴一句话就放弃承诺(Qwen3.8-27B 达 89%,gpt-6.1-sol 达 83%),几乎所有模型都会听从旁观者的"就这么办吧"。
研究者推出 System1-Arena 基准,用 92k 道题、105 项任务和 138 个闭环环境,对比 System-1 模型与生成式推理模型在离散决策上的表现。
阿里云团队提出 AgentEval,一套将契约约束的评估记录贯穿工具执行、状态与事件捕获、报告认定和案例维护的系统,区分智能体做了什么、证据能证明什么、结论当前是否成立。在 32 次工具世界执行中,独立核查对全部 30 个完整回合达成一致,区分出已满足、被违反和未解决的义务;对 48 个证据视图的受控干预暴露出仅靠哈希校验会漏掉的 36 个绑定故障。
MemScope 是一个基于执行证据对现有智能体记忆架构进行局部演化的框架,其 Patch Agent 联合检查原始执行轨迹、运行时记忆状态与当前架构代码,在 provider 身份和记忆兼容性约束下定位修复目标并做有界原地修改。
GRADS 是一个图引导的智能体数据合成框架,通过维护证据与推理依赖图,在种子选择、证据扩展、问答构建与验证的闭环中实现显式难度控制,避免引入与答案弱耦合的无关上下文。
研究者提出 All-in-One Memory(AiO-Mem),将检索、记忆写入与停止决策统一到共享证据状态和统一奖励空间,用过程奖励模型为完整交互轨迹打分,并通过 Process-Aligned DAPO(PA-DAPO)优化记忆策略。该方法把异构历史编译为可溯源的多视图事件,在长上下文记忆基准上持续提升答案准确率,优于静态记忆系统和 RL 训练的记忆智能体。
MASP 是一个心理化对抗自博弈框架,将主动对话建模为系统与理性抵抗用户之间的部分可观测博弈,用 BDI 潜在状态表示用户演化心理,并分离奖励侧教师心理化与策略侧学生心理化,交替更新系统与用户策略。
研究者推出 Kolab,一个包含 50 位来自 40 种职业的专业人士、115+ 小时屏幕录制的人机协作数据集,用于评测长周期真实工作流中的协作表现。该基准要求智能体预测专家会采纳、修改还是拒绝其贡献,并判断协作满意度与产出质量。结果显示,前沿模型(无论是否具备智能体能力)都会高估与专家的协作效果,且难以区分高质量与低质量协作,更长的上下文并未稳定改善预测。
基于 LLM 的规划智能体在与部分可观测环境交互前,会隐式地选择激进或保守的规划承诺策略。在三个 LLM 和两个部分可观测域上的实验显示,两种策略准确率相近:保守方法失败次数更少但 API 调用更多,激进方法失败更频繁,仅在先验信息充分时才能高效重新规划。分析还发现 LLM 几乎将提供的先验当作事实,先验不可靠时容易导致失败。
MemComposer 通过联合考察当前查询与检索候选,决定纳入哪些经验、选多少条以及如何排序,并用基于 GRPO 的 Experience Policy Optimization(ExPO)以完整智能体交互的任务成功反馈训练组装策略。
针对终端类计算机使用环境中 MCTS 配置无法显著提升任务成功率的问题,研究者提出 Probe-and-Resume:仅在智能体自认为完成的节点调用 critic,并让其对当前与初始状态的 fork 拥有读、写、执行权限以探测隐藏状态。
研究者构建了 Sci$\Pi$vot,一个基于人类纠正记录的 248 例科学判断基准,源自资深研究员六个月内在 26 个项目上对 LLM 智能体的反复干预。在提供项目记录的中等推理强度下,五个前沿模型中有四个低于随机水平,最高准确率 63.5%,低于新手的 73.4%;且各模型带项目记录的准确率反而低于不带记录时,重新考虑也未能稳定提升表现。
研究者发布 ToolBottleneckBench,在固定 harness 预算下测量工具智能体在受控压力下的表现,任务保持不变、每次只改变一种压力:注册工具目录、可见工具菜单、认证工作流或返回记录编码。
研究者发布 OmicsBench,一个面向 AI 智能体的长周期多轮生物信息学基准,97 个任务通过有向无环图串联 662 个子任务,每个子任务对应一轮用户输入并确定性评分。
研究在 NAQD-Env 合成环境中用 LoRA 微调 Qwen2.5-3B-Instruct,比较原始与增强课程对选择性撤回能力的影响。在 naqd 提示下,SFT 检查点的决策一致率达 0.77-0.92、撤回召回率 0.46-0.86,而三个基线仅为 0.45-0.63 和最高 0.06。
研究团队开发了对话式多智能体系统 ReviewPilot,将 PRISMA 流程从论文筛选自动化到信息提取,每条筛选决定附带理由、每个提取值标注来源。在流行病学专家综述上,ReviewPilot 在三种 LLM 上均优于单提示词 LLM 和 AgentSLR,筛选 macro F1 最高 0.776,提取 F1 最高 0.788。
研究提出训练框架 ASPO 与步级推理护栏 StepSafe,通过前缀级阶段对齐和自适应反馈自蒸馏,让模型在风险可见前继续、在澄清仍可避免伤害时提问、在伤害不可逆前停止。StepSafe 在五个智能体安全基准上取得开源护栏 SOTA,4B 版本 Youden's J 达 53.0,对比 46.2。
MAI-Gym 是一个开源一体化平台,统一移动、电脑和网页环境下的 GUI 智能体评测、数据采集与在线 RL 训练,支持十项基准并扩展到 20000 个并行环境实例。
研究在五个 benchmark 的 1,514 个长周期任务上,用七款 LLM 分析语义层、编排、压缩三种上下文工程技术单独及组合的效果。无这些技术的数据智能体分为调查者、过早作答者和提前放弃者三类行为组,每种技术只有匹配对应行为组才能转化为准确率提升;对调查者反而有害,编排会使其过度自信并损失 5 个百分点。
研究者提出 RAC,一种与 harness 无关的工程智能体动作与反馈层契约,由智能体决定工件应满足的关系,专用工具推导具体几何或时序结果。