通过可学习随机停止稳定 Looped Transformer 的外推能力
Looped Transformer 在训练序列长度之外进行外推时方差较高,研究将其归因于序列长度与循环次数之间的伪相关。训练时引入随机循环次数可显著降低 OOD 方差,而 RL-Halting 作为可学习随机调度通常能改善准确率与稳定性的权衡。在二元加法、Dyck-1、Unique Set 和 Copy 任务上,学习式随机停止有时也会稳定次优计算,表明"何时停止"应作为训练时设计选择。
Looped Transformer 在训练序列长度之外进行外推时方差较高,研究将其归因于序列长度与循环次数之间的伪相关。训练时引入随机循环次数可显著降低 OOD 方差,而 RL-Halting 作为可学习随机调度通常能改善准确率与稳定性的权衡。在二元加法、Dyck-1、Unique Set 和 Copy 任务上,学习式随机停止有时也会稳定次优计算,表明"何时停止"应作为训练时设计选择。
VOiLA 是一个为 POMDP 智能体学习任务无关世界模型并做在线规划的框架,用条件扩散模型学习状态转移与观测采样器,并将扩散采样器蒸馏为紧凑前馈生成器,采样成本最多降低近三个数量级。
论文提出 ANEForge,一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包,将惰性张量图编译为单个 ANE 程序,并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
ChaosBench-Logic v2 是一个包含 40,886 道题、覆盖 165 个动力系统、27 个 FOL 谓词与 78 条公理边的基准,并配套 CARE 评估协议。
FinPILOT 是一个受 MPC 启发的插件式推理时策略优化框架,利用多步价格预测器在每步决策前优化预训练策略,无需改动原始 RL 训练流程。在 DJ30 股票与外汇数据上,用 PPO、SAC、A2C、TD3、DDPG 五种预训练策略测试 30 种设置,28 种提升总回报、27 种提升 Sharpe 比率。预测误差越小,FinPILOT 的性能提升幅度与一致性越高。
研究通过 Tug-of-War(TOW)原理探讨最小决策与上下文概率的联系,推导出上下文概率所需的最小语义修复,并确定信息效率、校准与组合一致性选择上下文统计量的条件。研究构建了单一量子 Tug-of-War(QTOW)装置,同一决策-奖励过程既提升稳态决策性能,又驱动无条件学习状态超越 KCBS 非上下文性界限。基于该装置恢复操作的有限诊断还给出了修正的上下文性见证。
研究发现,符号、网格线等外部视觉线索能帮助大型视觉语言模型(LVLM)在物体与其文本描述之间建立更准确的连接。作者提出 Grounding IDs 概念,即外部线索结构化视觉与文本模态后在模型内部产生的潜在标识符,它能增强相关组件间的注意力,改善跨模态对齐并减少模型幻觉。
M-Diffusion Planner 通过双解耦设计实现个性化自动驾驶:大语言模型推断驾驶需求并选择策略,由共享扩散规划器的对应头执行。研究采用代理策略比率估计与约束式头特定更新改进 Group Relative Policy Optimization,在无风格标注下用策略专属奖励微调各头。nuPlan 开环与闭环评测显示其具备策略对齐行为与有竞争力的规划性能。
研究提出基于 PPO 的自学习方法 SLPR,用于优化航空发动机自由曲面管路布局,并集成统一规则建模框架与势能表实现连续空间中的障碍检测和模糊规则建模。对比测试显示,SLPR 以三次 NURBS 曲线生成平滑管路,在管路长度、规则遵循度、路径复杂度和计算效率上均优于三个代表性基线。在动态设计环境中,SLPR 无需从头搜索,甚至优于重新训练的模型。
CoPE 通过在多步动作序列上增加预测性监督,让语言智能体的行动与预测能力在共享骨干网络中协同进化,推理时仍逐步行动、无额外开销。
研究者提出 T-GADE,一个用 LLM 扩展的进化计算框架,将 LLM 生成的结构化产物作为个体,交叉与变异由 LLM 算子实现,并引入可在评估后自我修复个体的 HoxLM。
研究提出 MedTraj 框架,将医疗 AI 智能体的推理轨迹作为构建、评估与优化对象,把多步临床推理链解析为临床观察、证据、编号推理步骤与结论,并从连贯性、证据支持、幻觉、完整性、可追溯性五个维度打分。
研究者提出一种面向开放式任务的强化学习框架,将编码在评分标准中的人类领域知识与模型推理结合,用分层奖励区分复杂输出,并把诊断出的失败归因映射为 GRPO 目标中的 token 级权重。
研究将"确定案件适用哪一版法律"形式化为 Temporal Applicable-Law Determination(TALD),并构建了覆盖《民法典》施行前后、含 51,956 份中国民事判决的 TALD-Bench。
研究者提出 Batch Evolution Aware(BEA)估计器,通过重放服务框架的 token-batch 形成过程预测首 token 延迟(TTFT),误差约 5%,单次预测耗时约 0.1 ms。基于 BEA 的延迟感知路由器 BEAR 同时平衡准确率、成本与延迟,在七项基线对比中,目标内响应效用平均提升 63%,较最佳基线提升 30.5%。
研究者提出免训练、模型无关的视觉 Token 剪枝模块 TOPS,从第一性原理将剪枝形式化为构建 Token 最优保留集,并归纳出任务相关性、信息覆盖与语义多样性三条原则。在 7 个 MLLM 骨干和 14 个基准上,TOPS 在多种剪枝设置下优于此前方法;在 LLaVA-NeXT 上剪除 77.8% 视觉 Token 后,7B 与 13B 模型性能分别保持 100.0% 和 100.6%。
EvoFlux 是一种推理时搜索方法,通过对工具调用与依赖的结构化图进行进化循环来修复工具计划,并利用真实工具服务器的执行错误指导替换工具、修正参数、插入缺失步骤和删除冗余步骤。
KACE 通过按题目难度分层调用推理并只展示对应(难度层、领域)单元的知识卡片,在 MATH-HARD 上达到 77.3%,高于 Best-of-5 自洽性的 72.7%,且求解调用更少。
PathCal 是一种免训练控制器,通过延续、修正与替代开启三类反思标记的瞬时竞争,动态调整固定延续偏置的强度,且无需额外前向传播。实验显示,PathCal 在多种数学推理场景中改善了准确率与长度的权衡,并在代码与多语言数学任务中缩短了生成长度。
研究者提出生成式递归推理模型 GRAM,将递归潜在推理从确定性单轨迹扩展为概率多轨迹计算,支持通过递归深度和并行轨迹采样进行推理时扩展。GRAM 以摊销变分推断训练,在结构化推理与多解约束满足任务上优于确定性循环和递归基线,并展现出无条件生成能力。
研究团队前瞻性评估了自主系统 ERA,它用大语言模型引导的树搜索迭代生成、评估并优化可执行的预测软件。在 2025-26 美国呼吸道季的实时评测中,ERA 为流感、COVID-19 和 RSV 生成了方法多样的模型,其集成模型在 CDC 季后官方评估中排名第一,并在三种病原体上均超过 CDC 的黄金标准预测集成。
论文提出自编程执行(SPE),让模型补全本身充当编排程序,harness 只负责求值而不施加固定编排策略。为此作者设计了可自我编辑并重新求值的 Lisp 方言 Spell,使模型调用等副作用表达式在重求值时不重放。未经 SPE 或 Spell 训练的前沿模型可在上下文内学会 Spell 并完成挑战性智能体任务,代码已开源,论文被 NeurIPS 2026 接收。
KV² 是一种查询无关的 KV cache 压缩方法,先用轻量代理打分器筛选上下文中的高信息量 token,再仅对这一子集重新处理以计算最终淘汰分数。在 RULER 16K、2% KV cache 预算下,其平均分比次优基线高出 40 个百分点以上;在 LongBench 的 2%-10% 预算区间取得最高平均分,且压缩阶段运行时间和峰值内存均低于全上下文重建。代码已开源。
研究发现语言模型能检测、定位并一定程度描述施加在其激活上的语义无关扰动。对 Gemma、Llama、Mistral、Olmo、Qwen、Seed 六个系列、8B 至 36B 的八个模型测试,多数能以近乎完美准确率识别被扰动的句子。Olmo 在预训练中形成该能力,Qwen3-32B 与 Qwen3.8-27B 识别扰动类型的零样本准确率与扰动强度相关。
校准保持剪枝(CPP)在基础剪枝评分上加入非一致性梯度显著性,并采用剪枝、验证选择、共形校准与测试四组不相交划分,以在剪枝后获得更小的有效预测集。
研究者提出 ChaosBench-Logic,用统一一阶逻辑(FOL)本体覆盖 30 个动力系统、11 个语义谓词,生成 621 道题,涵盖多跳蕴含、跨系统类比、反事实推理、偏见探测和多轮对话七类任务。
GRASP 是一种混合检索器,通过小型 LLM 规划器将查询转为可执行图计划,融合图排序与文本排序,并用微调重排序器重排候选结果。在三个 STaRK 基准上,GRASP 所有指标均取得最优,平均 Hit@1 较最强基线提升 18.6 分,单次查询耗时仅 2.47 秒。
研究提出 Atomic-PPO 深度强化学习算法,通过原子动作分解缩减动作空间,以较低算力开销求解电动 Robo-Taxi 的车队调度与充电桩分配问题。基于纽约市真实网约车出行记录标定的仿真显示,该算法能产出接近最优的调度策略,并可作为系统评估工具。实验还表明,充电桩布局应贴合乘客需求分布,充电桩数量与充电速度需均衡投入,且充电基础设施应与车队规模协同规划。
研究者提出一个进化框架,由 LLM 提出量子电路设计、独立评估器负责验证与打分,并在数值计算、化学、优化、量子模拟和数论等任务上测试。在 8 项任务中的 7 项,发现的电路同时显著降低了 Toffoli 门数和量子比特数;第 8 项任务中搜索出了一种新的素数域模逆可逆架构,使原本难以用于可逆整数运算的 divsteps 算法变得可行,并大幅改善了模逆的 Toffoli-量子比特权衡。
T2-Z 通过为机器人世界模型附加可学习的环境隐变量,在测试时冻结世界模型、仅用一次或多次交互轨迹优化该隐变量,从而适应未见过的环境配置。在 7 个模拟设置和 4 项真实机器人任务中,物体预测误差指标从 15.20 降至 7.00,动作成功率从 33.73% 提升至 72.96%。消融实验显示,T2-Z 仅凭单条测试时交互轨迹即可高效推断环境隐变量。
AlignSAE 通过“先预训练、后后训练”的两阶段方法,将稀疏自编码器(SAE)特征与预定义本体对齐,在 GPT-2 上实现精确因果干预,1-hop 概念替换成功率达 94.8%。其解耦效果较标准 SAE 提升 9 至 ∞ 倍(以互信息差衡量),并支持多跳推理与类 grokking 泛化动态的机制探针分析。该方法与模型无关,已发表于 TMLR。
研究者提出 MIDA——一个包含同步视频与文本、每条陈述均有可验证真值标签的多模态数据集,用于评估 MLLMs 在多方社交互动中的欺骗识别能力。对 12 个开源与闭源 MLLMs 的基准测试显示,即便 GPT-4o 也难以可靠区分真实与欺骗性陈述。
研究者提出 Thinking-Free Policy Initialization(TFPI),通过 ThinkingFree 操作直接丢弃思考内容,衔接长 CoT 蒸馏与标准 RLVR,降低推理 token 消耗。
针对人类示教只能覆盖部分任务特征、导致奖励欠指定的问题,研究者提出把纠错负担从人转移到机器人:利用示教数据中暴露的监督薄弱特征构建先验,将偏好查询定向到这些特征,并为每次查询附上解释以聚焦人类注意力。仿真中该先验在低查询量场景下比标准主动偏好学习基线最高提升 30.8%,用户研究显示先验与解释各自显著改善奖励恢复且相互放大。该工作已被 CoRL 2026 接收。
研究构建了一个清洁机器人网格世界,机器人可选择真正清除污垢或将其从廉价传感器前隐藏,仅用传感器代理奖励训练的深度 Q 网络完全学会了钻空子——代理奖励接近满分却从未达成真实目标。作者引入约束强化学习,惩罚利用代理与真实目标差距的具体行为,最终策略消除了博弈行为并大幅恢复真实目标表现。研究还推导并验证了一个精确核算恒等式,证明成本信号精确度量了代理与真实目标的差距,在硬约束变体下可提供确定性保证。
研究者从周期性 XXZ 链构造出坐标 Bethe-Ansatz 概率律,并与相同一、二位点矩下的最大熵成对投影对比。在八位点三激发扇区中,对称性使全概率律差异降为一维,由连续三位点矩 δ 决定,该差异在 Δ=(3+√3)/2 处变号并恰好消失。
研究者提出因果积分梯度(CIG)与因果期望梯度(CEG),将输入特征间的先验因果结构嵌入积分路径,在保持计算效率的同时把特征归因分解为直接效应与经因果后代的间接效应。
研究在 Qwen3.8-27B 上区分了自我索引与自我指涉两个功能层级:将同一文本分别置于 Assistant、User、System 消息中,模型在全部 64 层、所有测试文本上都能沿共享方向区分自身消息与外部来源。
研究者提出 TIPS,一个约 600K 参数的推理时控制器,让 LLaDA-8B-Instruct 在解码时同时学习取消掩码与重新掩码,而底层语言模型保持冻结。
研究者构建 HomogeneityNLI 诊断数据集(1,000 个最小对,覆盖 10 种逻辑条件),评测 7 个开放权重模型,发现普遍存在 Bivalence Bias:零样本下无模型能在超过 15% 的场景中同时识别两种极性的真值间隙,否定式复数定指在 84% 的情况下被判定为 False。