阅读不等于推理:视觉-文本压缩中的智能体策略鸿沟与 CAPS 框架
针对视觉-文本压缩导致智能体能力下降的问题,研究者提出两阶段跨模态智能体策略自蒸馏框架 CAPS,用同一模型更强的文本历史策略监督其视觉历史策略。在 SearchQA 上,CAPS 以 3B 和 7B 骨干分别比 AgentOCR 提升 5.0 和 3.4 个百分点;在完整历史 ALFWorld 上分别提升 15.6 和 14.5 个百分点。
针对视觉-文本压缩导致智能体能力下降的问题,研究者提出两阶段跨模态智能体策略自蒸馏框架 CAPS,用同一模型更强的文本历史策略监督其视觉历史策略。在 SearchQA 上,CAPS 以 3B 和 7B 骨干分别比 AgentOCR 提升 5.0 和 3.4 个百分点;在完整历史 ALFWorld 上分别提升 15.6 和 14.5 个百分点。
研究提出"对齐的幻觉(IoA)"概念,指协作对话表面达成一致、参与者却在目标或执行计划上仍有分歧,18 场真实会议研究证实其普遍存在。团队构建 IoA-Suite 数据集与评测协议,最佳模型仅达 49.5% F1,瓶颈在于对话未暴露的私有上下文;基于此训练的 IoA-Prober-8B 达到 51.8% F1,在 18 场真实会议中每场平均发现 2.89 处参与者确认未曾说出的隐藏分歧。
研究者提出 SkillEval,一个面向文档级技能的可解释评估框架,通过固定且可检查的评分方向为每项属性生成可解释分数,并测量和降低无关文档特征的影响。在受控质量测试中,SkillEval 能可靠区分不同质量的技能,其分数与下游任务表现密切相关,可提前预示技能有效性。该框架还可用于诊断文档弱点并指导针对性修订,从而提升目标属性与下游任务通过率。
研究团队提出 OctoLong,一套结合 AST 解析器、语言服务器后端与包管理器递归检索代码引用的上下文工程流水线,可构建长达数百万 token 的依赖丰富代码上下文。
研究者提出 ContinualSkillBench,一个面向上下文持续技能学习的动态评测框架,覆盖五个领域、每域 100 个按难度排序且可技能迁移的任务。实验显示顺序执行通常提升表现,但增益因模型和领域差异明显;保留上下文与反馈而不维护技能库,平均表现与显式技能库几乎持平,显式技能仅在需要可复用流程或精确输出的任务上有选择性优势。
REALGUARD 是一个通过潜在推理将安全推理与理由生成解耦的 LLM 安全防护框架,在训练中用连续潜在推理逐步替代显式理由,并单独训练轻量审计解码器按需生成解释。
一篇综述梳理了 LLM 辅助偏微分方程(PDE)研究在发现、求解与优化三个阶段的进展,考察 LLM 如何结合物理知识、数值方法与计算反馈来构建模型、实现求解流程并指导设计与控制。文章还回顾了评估科学有效性、计算性能与工作流可靠性的现有基准与评测实践,并提出面向特定 PDE 问题的数学与物理推理、通过领域专用与多模态后训练构建可迁移专业知识、以及将主动实验设计与科学验证相结合三个挑战方向。
研究提出"可检测性保留"指标,在去标识化实际替换的文本片段上比较检测器对替代值与原始值的识别率。在 7 种语言的 7 个临床与通用 PII 基准(1,750 篇文档、5,333 个替换片段、11 个检测器)上,掩码片段召回率从 75.8% 降至 74.6%,变化 90% CI 为 [-1.62, -0.82] 个百分点,后验概率 > 0.99 落在 ±2 点内。
SearchMaster 是一个自博弈框架,让共享 LLM 策略在本地搜索环境中自行生成、求解并验证搜索任务,无需人工标注 QA 对或专家演示。
该论文已被作者 Wei Wang 因公司合规要求撤回。原研究提出 CockpitHAT 分层归因框架,用交互 DAG 的依赖距离阈值替代位置窗口,并结合多通道证据与安全提升机制。
LaCache 是一种面向 LLM 服务的语义缓存重设计,将完整性校验从查询转移到响应,额外检查查询前 k 个推测解码 token 的缓存命中,从而可证明地防御缓存碰撞攻击。分析证明其能以高概率检测产生语义不同响应的攻击,跨多种 LLM 和基准的评测显示攻击命中率降至接近零,同时保留超过 90% 的正常缓存效用。该工作入选 NeurIPS 2026。
研究者提出属性级 MLLM 遗忘任务并构建 AMU-Bench,覆盖长文本、数字和短文本目标及多种遗忘比例与题型。针对目标属性与保留属性共享身份和视觉证据导致的残留泄漏问题,提出免训练框架 CLRP,通过因果定位与保留感知投影实现选择性遗忘。
LEMUR 是一个从多个人类偏好反馈中交互式学习最优多目标策略的框架,可同时学习策略与多个目标专属奖励模型,让智能体在学习过程中平衡相互竞争的目标。该方法在多种多目标基准任务上性能优于基线,为无需预定义奖励函数的多目标决策任务提供了新方向。
针对记忆增强 LLM 智能体易受记忆注入攻击的问题,研究者提出轻量防御框架 MIND,用意图感知信息瓶颈从初始意图与逐轮行为中提取紧凑的意图—行为表示,再由轻量检测器识别恶意记忆。在 ReAct-StrategyQA 上,MIND 将平均 ASR-r 和 ASR-a 分别降低 58.1% 和 53.5%,同时平均准确率与延迟与未防御智能体持平。
SKILL-KD 是一个对比技能蒸馏框架,将技能作为不同能力智能体之间的显式蒸馏介质:给定学生智能体的失败轨迹与教师在同一任务上的轨迹,把二者可操作的差异蒸馏为文本技能补丁,通过重跑学生智能体验证并在仍失败时迭代优化。
研究发现指令微调模型并不从分布中采样,而是坍缩为单一输出:同一 persona 在同一问题上,公开民调基准中超过半数条目返回相同答案,内部概率也集中于单一选项。
AgentUCT 将剩余评估成本的经济模型引入 UCT 选择,并用查询前缀记账连接搜索决策与可复用执行状态,在有限固定奖励树上证明了累积质量遗憾的 O(log T) 上界。
论文提出 PRO-LONG,一个面向 LLM 智能体长程探索场景的最小上下文管理框架,通过保留完整结构化交互日志并用程序化工具高效检索历史来化解信息保留与检索难度之间的取舍。
研究者提出 OAT,将 LLM 智能体失败归因建模为基于神经受控微分方程的单类学习,仅用 100 条成功轨迹训练,在推理时按每步偏离成功动态的程度打分定位错误步骤。该方法比基于提示词的基线快 200–5000 倍,在域内和分布外数据集上 F1 分别高出 +20% 和 +7%,且无需失败轨迹的步级标注。该工作已被 NeurIPS 2026 接收。
研究在 ACPBench-Hard 上评估多个 LLM 系列,结合多维项目反应理论发现 LLM 规划表现由两种潜在能力主导:操作推理(评估局部动作适用性与即时状态转移)和结构枚举(推理目标可达性与地标结构)。操作推理随模型规模扩大和推理链变长而提升,结构枚举则相对不敏感。作者据此提出应转向能力层面的 LLM 规划评估。
论文提出持久谄媚概念并发布 Personal Agent Sycophancy Benchmark(PASB),包含 1,600 个任务,在 Hermes-Agent 和 OpenClaw 两个智能体框架、十六个模型上运行。
研究者推出 Long-Horizon-Terminal-Bench,一个包含 46 个长时程任务的终端基准,覆盖实验复现、软件工程、多模态分析、交互式游戏和科学计算等九大类别,每个任务被拆解为细粒度评分子任务以提供密集中间奖励和部分得分。
研究者提出 Communicative Language Symbolism Routing(CLSR),让多个 LLM 智能体自主发明、演化并共享紧凑的 Language Symbolism Frameworks(LSFs),由无隐变量路由器按查询自适应选择与组合这些符号语言,以优化准确率与 token 成本的权衡。
PASS(Process Advantage Signal Shaping)是一种面向 GRPO 的优势构建流程,通过奖励通道归一化与融合、信号定义分块累积以及按剩余分块数归一化,把过程监督的局部反馈转化为策略优势。
一项审计在 OpenRCA、RCAEval 和 PetShop 三个基准家族上复现 16 种方法的官方实现,发现汇总排行榜的领先结论取决于其未公布的子系统间差距:15 个领先幅度超过该差距的比较中 14 个在所有子系统成立,8 个低于该差距的比较中 6 个发生反转。
MedEvoEval 是一个基于动作门控模拟门诊情景的可执行纵向评估框架,将病例转化为患者、检查和管理者角色视图,通过结构化轨迹关联观察、动作、输出与经验回写。
研究系统分析了 Graph World Models(GWM)中 rollout 误差的传播机制,针对固定边与动态边两种情形推导出拓扑感知的误差界,刻画了图结构、学习动力学与演化边的作用。
研究者提出 Strategy-Guided Policy Optimization(SGPO),用可复用的策略蒸馏替代实例级轨迹模仿,从强模型回答中提取结构化策略描述,并为每个问题构建自主与策略引导两条轨迹进行直接对比。
Litmus 是一个零标签系统,通过从源代码中提取评估意图并配合针对性追问,为 AI 流水线设计评估与监控指标,再将答案转化为各阶段指标组合的约束条件。在三个真实代码定义的流水线上对比 AutoMetrics 和三个 DynamicRubric 基线,Litmus 在同等规模下覆盖更广的关注点、跨越更多阶段,并实现近零冗余的指标组合。
研究提出 replay pairing 方法,固定动作-观察轨迹,对比有无计划交换时的动作前隐藏状态,发现 Llama-3.1-70B 在 ALFWorld 上计划后第一个动作到第二个动作的平均对比度下降 4.1 倍,Llama-3.1-8B 下降 5.6 倍。
研究提出"表征承诺"指标,通过重复运行中同一步骤的隐藏状态相似度衡量 LLM 智能体行为何时稳定。在 Llama-3.1-70B 运行 ReAct 于 HotpotQA 上,第 4 步相似度越高,整条轨迹变异性越低(r = -0.35),该模式在另外两个模型和 StrategyQA 上复现。
研究提出 Reward as an Agent 智能体奖励框架,主动评估生成行为以提供稳健奖励信号,缓解分布偏移下的 reward hacking。配合 DynDiff-GRPO 的 Dynamic-Aware Rollout Diversification 扩展动作空间探索,两者结合在多个开源世界模型上取得显著准确率提升,表明更广探索在可靠验证基础上可成功扩展。
研究者提出 Decoupled Search Grounding(DSG),通过 MCP 兼容网关把搜索接地移出推理模型,将供应商路由、来源感知上下文渲染、检索深度控制与缓存变为可调接口。在 SimpleQA 上 DSG 准确率 86.1%(原生搜索 87.7%),搜索成本降低 91%,热缓存命中率 99.4%、延迟降低 68%;在电商 QIU 负载上准确率持平原生搜索,搜索成本降低超 98%。
arXiv 论文提出 PseudoBench,一个评估智能体自动科研系统能否识别并抵制伪科学叙事的对抗性基准,包含五个领域的 200 组伪科学论断与证据配对,覆盖从实验到写作的端到端研究流程。
研究提出双诊断框架,结合逐层线性探针与 Context-Stripped Decoding(CSD),在 Qwen、Llama、DeepSeek 等 16 个模型、六类代码推理任务上追踪代码推理的内部生命周期:模型先"酝酿"答案,使其在可自解码前多个层即可线性恢复,随后分化为 Resolved、Overprocessed、Misresolved、Unresolved 四种结果。
论文提出 Business World Model(BWM),一种面向商业与组织环境的世界模型,将状态、动态和可行动作与业务实体及其属性和关系绑定。其参考设计与开源实现中,LLM 智能体负责解读自然语言业务目标并解释结果,确定性、元数据驱动的仿真引擎整合机器学习模型、业务规则和动作空间完成全部计算。媒体订阅业务的流失案例研究显示,系统能在收入约束下推荐满足流失率降低目标的方案。
研究者提出 LATTEArena,一个面向 LLM 驱动的自动化表格特征工程(LATTE)的标准化、模块化基准框架,将 15 种代表性方法拆解为统一的 6 维分类体系,并评估 7 个研究问题下的 24 种核心配置。该框架在预测精度之外量化 token 效率与执行鲁棒性,得出 17 项成本效益权衡发现,并给出 3 条实际部署建议。全部代码、数据集及超 4000 条执行日志已公开。
针对 on-policy 蒸馏(OPD)中因逐 token 监督导致的"前缀失败"问题,研究者提出轨迹级修正方法 Trajectory-Refined Distillation(TRD),在教师引导下修正学生 rollout 的问题前缀,从源头缓解该问题。
研究团队推出 Causal-Plan-Bench 诊断基准与 Causal-Plan-1M 百万级因果推理语料,指出现有具身视觉语言规划基准偏向语言下一 token 预测而非物理因果推理,GPT-6-astra 仅得 43.04 分。
针对大语言模型单次编辑引发的涟漪效应,研究者提出知识编辑框架 JNO,将可编辑侧协调与保留侧泄漏两种耦合设计压力在目标规划阶段联合建模。JNO 通过压力感知协调(PAC)在耦合约束下联合优化邻域目标表示,并引入语义预执行门在参数执行前拒绝高风险目标方案。在 RippleEdits 上,JNO 将传播与保留指标提升至少 7.0%,同时保持跨骨干编辑稳定性。
共 2000 篇论文