一项预注册研究:Harness 搜索的收益来自哪里?可见性、基线充分性与评测缺陷
一项预注册研究用三个小模型、三个 benchmark、GEPA 搜索臂和六种逐一注入的评测缺陷,报告了全部 47 个主要终点,考察 harness 搜索的涨分来源。在 9 个模型-benchmark 组合中有 5 个,关闭 thinking 的准确率高于受限 thinking 设置。
一项预注册研究用三个小模型、三个 benchmark、GEPA 搜索臂和六种逐一注入的评测缺陷,报告了全部 47 个主要终点,考察 harness 搜索的涨分来源。在 9 个模型-benchmark 组合中有 5 个,关闭 thinking 的准确率高于受限 thinking 设置。
FLEX-WAM 是一个可灵活、高效进行块因果建模的世界-动作模型,支持可变长度上下文与非因果预测时域,并可无限自回归生成。它针对现有联合视频-动作模型计算量大、固定时域难以流式推理和稳定长时程开环推演的问题,统一了仿真与策略推理。
研究指出,显式分层本身并不决定语言模型智能体时间抽象的稳定性:学到的边界策略可能几乎每轮都替换子目标,使其实际变成瞬态,或在子目标已失效后仍予保留。该工作提出面向语言模型智能体的稳定时间抽象分层强化学习,围绕持久子目标组织原始动作并在多个时间尺度上分配信用。
一篇综述综合 312 篇论文与一手报告,围绕可观测证据、研究设计能确立什么、证据支持哪些纠正措施三个问题,梳理文本推理幻觉。其提出的 UIPCA 框架记录无支撑前提、无效推理、依赖复用、可见答案-轨迹一致性与行动策略失效五类问题。在 58 个受审来源中,没有对比能证明某一特定干预在提升推理的同时降低了事实可靠性。
NVIDIA 提出 Mid-Harness,在模型与 harness 之间采样并验证候选动作再执行,以测试时计算提升终端智能体成功率。在 TerminalBench-Lite 上,GPT-5.6 Sol 验证器从 8 个采样动作中选择时,Pass@1 从 50.0% 升至 68.0%;弱验证器下增加采样几乎无收益。
针对 HIRO 在低层策略变化后子目标重标注导致价值更新目标偏移的问题,研究者提出分层时间感知自举(HTB),在当前低层策略下评估指定子目标并保留累积任务奖励,同时用剩余执行时间区分子目标延续与新高层决策。
AIProver 通过证书驱动的演化框架实现数学研究的智能体自动形式化,将自然语言定理与证明翻译为 Lean 等形式语言并做机械验证。该工作针对研究级证明常依赖 Mathlib 缺失概念、编译成功不等于语义保真、NL-FL 对齐数据稀缺以及现有智能体依赖昂贵前沿模型和手工框架等问题提出解决方案。
Green-Routed Neural Operator(GRNO)利用控制方程决定潜在特征的采样位置,以解决 PDE 中传输场用于选择读取坐标、而神经算子仅将其视为输入值的错配。其无参数方程适配器评估诊断关系并构建偏移图,图值即为读取坐标;多尺度编码器-解码器结合中心读取与路由读取。
研究提出 Discovery–Execution(DE)框架,用短预算运行预测数学推理随测试时计算量增加的扩展曲线,方法是将策略发现与条件执行做卷积,从独立短预算尝试和 oracle-sketch 条件运行中估计留出推理轨迹上的累计成功率。作者在 35 道全新奥赛题及非几何题上评测了四个模型。
研究系统刻画了 LLM 推理中张量并行(TP)、流水线并行(PP)与混合并行(HB)的计算-通信权衡。由于当前 SOTA LLM 已超出单 GPU 的算力与显存容量,推理需跨多 GPU 分布,而计算、通信与流水线利用率之间的复杂交互使并行策略选择依然困难。
研究识别出大语言模型在逻辑推理与安全对齐两类任务间的"序列子空间干扰"现象:在多步数学与代码生成等逻辑任务上标准微调,会在对齐基准上造成 23.3% 的干扰惩罚,显著削弱模型安全先验。论文提出通过正交适配实现智能体的安全上下文切换,以缓解这种子空间干扰。
研究揭示代码生成的测试时选择存在"验证陷阱":当生成器与验证器共享同一错误前提时,二者会因错误信念耦合——生成器产出符合前提的捷径程序,验证器提供的证据又无法暴露这些捷径,导致选择器失效。该工作挑战了验证器能提供独立纠错信号的隐含假设。
针对掩码扩散语言模型(MDLM)解码时依赖易失准的 softmax 置信度问题,研究者提出贝叶斯解码框架 BayesER,用预测不确定性指导 token 提交顺序。该方法以预训练 checkpoint 为中心构建轻量近似后验,思路类似 Laplace-LoRA。
LexiHorizon 是一个面向长程深度搜索的强化学习框架,针对检索系统对查询表述敏感、语义合理的查询也可能因实体名或别名不匹配而漏掉关键证据的问题,通过支持反复改写查询和更长的交互轨迹来稳定训练。
研究者提出 Belief-Trajectory Energy(BTE),一种基于模型本身的度量,通过将 Transformer 各层中间状态映射到共享预测空间,刻画输入在模型逐层预测修正中引发的信念变化,可汇总为标量或结构化深度剖面。理论上,局部 BTE 与……(原文此处截断)。该工作关注 LLM 逐层修正预测的轨迹,而非仅观察最终输出。
针对扩散模型难以对齐人类偏好的问题,研究提出 Best-of-N 引导的测试时对齐方法,通过在反向扩散轨迹中引入奖励信息,突破传统 BoN 采样仅在最终选择阶段使用奖励的局限。传统 BoN 从预训练扩散模型独立采样 N 个样本后仅输出最高奖励样本,未在采样过程中影响扩散轨迹。
SharpDraft 是一种免训练方法,通过基数感知的 Query 缩放缓解注意力质量稀释问题,从而加速长上下文投机解码。该方法针对上下文增长时 softmax 在更多可见 Key 上归一化、导致高分 Key 上的注意力质量下降的现象,无需在线自适应的计算开销。
针对 MLLM 推理越长、对初始视觉输入注意力越弱的问题,研究者提出 ReMAP(Reasoning-Time Memory-Augmented Perception),在推理过程中重新引入视觉证据。其受控分析从整理、组织、访问三个维度考察视觉记忆,发现局部证据受益于全局上下文,紧凑潜在表示可平衡准确率与视觉上下文开销,记忆访问的效用取决于推理状态。
研究者提出 Direction-Conditioned Policies(DCP),对 Contrastive Reinforcement Learning(CRL)做小幅修改:在线训练时选取曾访问过的状态作为路标,让策略以这些路标在表示空间中的方向和距离为条件。部署时 DCP 将同一接口直接作用于最终目标,无需选择路标。
研究针对基于 LLM 的 TTS 模型提出 codec trajectory score 与 late residual direction score 两项情绪敏感指标,用于评估 activation-patching 干预。在匹配参考条件下,分析识别出一条稀疏的从源到读出、组件级的情绪控制回路,每种情绪涉及 23–27 个注意力头与 MLP,约占全部组件的 5%。
研究在五个诊断数据集(轴承振动、过程监控、半导体设备)上测试 LLM 能否可靠使用外部诊断信息,结果在全部五个数据集中,冲突的外部信息都推翻了 LLM 原本正确的判断。在四个有直接集成对比的数据集中,没有一个显示出稳定优势,配对重复调用将建议效应与输出不稳定性区分开来。
一项受控研究用双人石头剪刀布交互和单人随机 n-gram 续写任务,测试 LLM 能否识别潜在策略、遵循简单 Markov 规则,以及能否恢复超越表面动作频率的潜在序列结构。研究指出,这一能力对行为模拟至关重要,因为行为往往由先前上下文而非边缘频率决定。
研究提出 Prefix Steering,在固定状态注意力假设下给出单 Token 与多 Token 引导匹配提示词所诱发注意力头输出的充分条件,并刻画输入表示变化对该匹配及近似误差的影响。该工作把提示词与激活引导在注意力层面联系起来,进而追问行为层面两者能否等效。
论文提出 EDISCO,首个在节点索引解上具有精确 E(2) 不变生成分布的离散扩散模型,用于 TSP、CVRP 等欧氏组合优化问题。现有基于学习的方法(包括近期扩散方法)依赖数据增强或正则化来近似 E(2) 等变性,而 EDISCO 直接实现精确等变。
研究者提出 TSHarness,一个面向跨数据集零样本时间序列问答(TSQA)的智能体框架,通过结构化的 Time-Series Perception State(TPS)将数值感知与上下文推理解耦。现有方法严重过拟合特定数据集,当输入序列、问题语境与答案要求同时变化时难以泛化。
研究者提出基于图的检查与干预工具 GIIT,将控制物理表示为计算物理依赖图,通过敏感性与趋势发现把图节点映射到网络内部组件,并在定向干预下检验该映射。在严重程度递增的时间外推 OOD 场景中评估时,研究发现时间……
D-DOIT 是一种针对离散扩散模型的免训练适配方法,通过 Doob h-transform 将适配建模为从奖励倾斜目标分布中采样,且仅需奖励值而非奖励梯度。该方法面向掩码离散扩散的类别式 token 揭示转移,推导出对应的离散 Doob h-transform,实现通用奖励下的高效适配。
针对对手推理层级未知的部分可观测动态博弈,研究指出按最可能对手层级选择对应 Level-K 策略的常见部署规则,并不保证从当前历史出发最大化期望回报。作者将这一部署问题建模为对固定预训练策略库的动态编排问题。
DiVeR 提出一种决策关键验证器学习方法,用于 VLA 策略的测试时扩展:通过采样多个动作候选并挑选最可能成功的动作,替代昂贵的机器人数据扩展。现有基于分类的验证器仅从轨迹级结果学习、对所有访问状态一视同仁,而 DiVeR 针对状态间候选区分价值差异进行改进。
TSAE 是一种结构化稀疏自编码器,用于解释时间序列预测模型的内部表征,将隐藏状态分解为可解释特征。针对输入归因只能定位重要变量与时间段、标准 SAE 目标不直接约束跨变量结构与时序连续性的问题,TSAE 在目标中引入了这两类结构约束。该工作面向能源调度、工业运营和环境监测等依赖预测的关键决策场景。
针对结果奖励无法说明轨迹价值应如何分摊到各决策的问题,研究者提出残差视觉信用优化(RVCO),将 token 信用视为守恒的路由问题。该方法通过受控视觉干预得到逐 token 证据响应,用轨迹内稳健坐标去除偶然尺度,再由预算化熵路由器按感知依赖分配固定序列效用。
针对大型推理模型(LRM)的链式推理(CoT)监控目前是被动的,需在执行后由另一个模型检查,危害可能已经发生。研究提出"可监控倾向"概念,指模型在推理过程中主动自我报告不当行为并保持被监控的意愿,但模型是否愿意这样做尚属未知。
针对现有稀疏自编码器(SAE)按层训练、建模子空间被层身份固定所导致的特征利用率低、字典冗余高、特征缺乏行为依据等问题,研究者提出 ScopeSAE,按 token 选择建模子空间,将每次预测归因到驱动它的 token-层状态。
递归语言模型智能体将任务分解并委派给同一策略的子实例,形成工作树,但训练困难:最终结果可验证,自创的中间子任务数量多且无真值标注。现有方法用验证器或评判器为每个节点打分,规模上成本高昂且无法感知分解质量。作者提出递归智能体需在同一组权重内学习分解、求解与评估三项耦合能力。
mRewriter-R1 是一个基于强化学习的智能体式多语言查询改写框架,用于解决语义相同但语言不同的查询导致模型推理轨迹和性能差异的问题。该框架摒弃翻译等一刀切策略,针对不同场景自适应选择多样化的语义变换方式,并将多语言查询改写建模为多轮智能体任务。
ForkPilot 提出面向长时程智能体回溯搜索的自演化策略,用于解决延迟结果带来的归因复杂性与执行证据变化带来的适应复杂性。该工作首先引入 Search Value Dynamics(SVD)来刻画搜索价值动态。
ResOPD 提出用尾部残差化改进稀疏在线策略蒸馏(OPD):在仅传输采样 token 分数或小 Top-k 分布的稀疏教师接口下,采样 token 估计器虽无偏但梯度方差大,直接优化 Top-k 目标又引入系统性偏差。该方法针对这一两难问题给出改进方案。
SpecFold 针对扩散大语言模型(DLLM)投机解码中的多分支计算冗余,通过折叠各草稿分支继承自父分支的重复 token,加速单次前向验证。该方法聚焦于每个投机验证步骤内的分支间冗余,与以往利用去噪步骤间时间冗余的加速思路互补。
研究者提出"从记忆到引导"新范式,将程序性记忆从被动文本注入转为推理时的主动策略适配,并通过时空合成器(Spatio-Temporal Composer)这一主动策略编译器实现,显式管理检索到的知识应如何、何时被应用。该方法针对的是记忆增强型智能体直接将检索技能塞入文本提示、把可读文本等同于可靠执行的问题。
研究者提出"复合推理"(compounding inference)范式,让推理时的中间成果持久保存,可被后续计算检查、扩展、组合或质疑,而非围绕单条轨迹或候选组织算力。GitSwarm 是该范式的去中心化实现,面向长周期问题求解与科研场景。