图卷积注意力 GCA:从谱视角理解图去噪与扩散
研究者提出图卷积注意力(GCA),用图滤波后的 query 和 key 实现依赖输入图谱的谱注意力分数,突破标准注意力只能学到训练分布上平均谱滤波器的局限。在合成与真实数据集上,用 GCA 替换标准 query–key 投影可提升图去噪与扩散效果,去噪增益与图谱多样性相关;在 DiGress 生成框架中以 GCA 架构替换 DiGress 架构,生成质量相当且推理显著更快。
研究者提出图卷积注意力(GCA),用图滤波后的 query 和 key 实现依赖输入图谱的谱注意力分数,突破标准注意力只能学到训练分布上平均谱滤波器的局限。在合成与真实数据集上,用 GCA 替换标准 query–key 投影可提升图去噪与扩散效果,去噪增益与图谱多样性相关;在 DiGress 生成框架中以 GCA 架构替换 DiGress 架构,生成质量相当且推理显著更快。
HarnessMDP 把 LLM 智能体的执行 harness 视为可学习的控制层,将智能体执行建模为有限时域马尔可夫决策过程,由 harness 根据演进的智能体状态选择结构性执行动作,并用收集到的轨迹离线学习策略、上线后自适应控制新执行。在编码任务、tau-bench、AgentBench 等评测中,HarnessMDP 相比基线 harness 持续改善执行行为与最终任务表现。
针对行为克隆策略从演示数据中学到不安全行为模式的问题,研究者提出 MoRE(Mode Redirection),通过短暂的"去克隆"步骤将临时模式分类器的重定向信号蒸馏进策略权重,配合 retain loss 保留目标模式能力,使独立策略以零推理时开销抑制不想要的行为模式。
研究者提出 TISED 分析框架,统一量化量化、剪枝、异步推理等有损高效推理技术对具身任务的影响。该框架揭示三类悖论效应:静态任务中优化可能延长端到端完成时间,动态任务中适度有损优化反而能提升任务成功率,且两种效应的单调性与最优位置会随硬件配置变化。
研究者提出误差条件神经求解器(ENS),不再把 PDE 残差当作优化目标,而是在每次迭代中将残差场直接输入网络,让其学习更新策略以迭代修正预测。在四类 PDE 上,ENS 在绝大多数设置中取得最高预测精度,湍流 Kolmogorov 流上提升达 10 倍,同时避免了混合方法的昂贵计算成本。其学习到的修正策略在分布偏移下仍能泛化,包括零样本参数变化与跨方程迁移,在病态区域优势最大。
针对 GRPO 需多次 rollout 采样成本高的问题,研究者提出单次 rollout 强化学习方法 SR-PPO,结合蒙特卡洛 token 级优势估计与 Pass@k 梯度重加权。
研究者提出 Reference-Anchored Reward Model(RARM),一种轻量视觉比较器,可将单条成功演示转化为稠密的进度感知奖励,训练仅用通用视频和对比式时序目标,无需机器人数据或任务专属奖励标注。
研究提出一套以数据为中心的长上下文强化学习配方,围绕检索、多证据综合与推理三类任务构建八个数据集、共约 14K 样本,仅搭配基于结果的最小化 GRPO 设置。在 Qwen3-4B/8B/30B-A3B 三个模型上,于七个长上下文 benchmark 平均提升 +7.2/+3.2/+6.4 分,超过此前的 RL 训练集。
针对 DiT 在图像编辑中占平均 73% 延迟的问题,研究者提出输入自适应 Token 压缩框架 HiLo-Token,对高频富上下文区域分配更多 Token、低频区域分配更少。在 A100-80GB 上,小、中、大掩码比例(平均 6.38%、15.92%、35.36%)分别取得 3.13×、2.59×、1.67× 的 DiT 加速且生成质量无退化,生产环境中服务所需 GPU 减少 33%。
研究用 GRPO 结合 RaR-Medicine 的评分标准监督,提出方差感知奖励框架,从准则级结果构建连续奖励以保留部分得分、降低奖励稀疏性。基于低秩适配器与量化权重的 Qwen3-14B,在留出的心脏相关 HealthBench 子集上最佳变体将准确率从 0.362 提升至 0.502、F1 从 0.532 提升至 0.668,接近 GPT-OSS-120B。
研究者提出"智能体经济"框架,让基于 LLM 的智能体通过拍卖竞争行动权、交换支付并从环境奖励中积累财富,以去中心化激励机制自发形成全局规划。该框架从弱智能体起步,在数学推理、金融研究、科学研究、加速器设计与分布式系统优化五项任务上均优于更强的单体基线,并涌现出多步推理策略。
针对推理语言模型(RLM)在多语言推理中因语言理解失败而表现不佳的问题,研究者提出 Luar——一个语言理解边界感知强化学习框架,训练模型在直接理解不可靠时才选择性地调用翻译。在 Qwen3-4B 上,Luar 相比标准 GRPO 平均准确率提升 8.4 个百分点,低资源语言上增益尤为明显,并将翻译调用集中在真正受益的查询上以降低推理成本。项目将公开。
研究者提出将通用多形态价值函数变为可复用的机器人设计模型:先跨多种机器人设计训练形态感知的策略与价值函数,再用冻结的价值函数作为可微代理,通过价值梯度优化候选形态。该方法在最多 50 种机器人、超 1100 个连续形态参数的设计空间上验证,还能识别限制性能的设计与控制参数。
研究者提出 Hoeffding 概念瓶颈模型(HCBM),基于梯度提升树的 Hoeffding 函数分解,对概念分数做非线性、稀疏的聚合,并用素蕴涵式生成紧凑预测。该方法对概念间信息泄漏具有理论鲁棒性,实验中优于稀疏线性 CBM,并可扩展至目标检测,在俯拍图像这一高难度场景下表现良好。
针对稀疏结构化强化学习任务,研究提出诊断驱动的迭代改进方法,用训练诊断和失败模式分类指导奖励函数修订,将 DoorKey-8x8 成功率从无塑形的 2.3% 提升至 97.6%,KeyCorridor 从一次生成的 31.2% 提升至 86.7%。
针对 LLM 在线策略蒸馏(OPD)中异步执行偏离理想 on-policy 目标的问题,研究者提出 f-OPD 框架,将目标偏差分解为 rollout drift 与 supervision drift,并引入样本级新鲜度分数衡量缓冲样本可靠性,据此自适应调节陈旧样本影响、约束策略漂移。
针对循环语言模型(LoopLM)在训练后量化(PTQ)中因角色分布偏移、循环状态复用和递归误差累积导致的性能退化,研究者提出循环感知量化框架 LoopQ,在保留共享量化主干的同时引入轻量适配。在 W4A4 量化下,LoopQ 在四个主干上实现五任务平均准确率 67.8% 的平均相对提升,八个主干-数据集组合的平均困惑度相对下降保守估计为 75.2%。
针对 TCAV 因使用不连续指示函数导致评分不稳定的缺陷,研究者提出参数化统一框架 α-TCAV,用平滑函数替代不连续指示函数,并将 TCAV 作为其极限情形保留。该框架给出两种有原则的参数选择:一种用单个 CAV 即可匹配 Multi-TCAV 的均值且方差不超过后者,另一种给出概念正向影响模型输出的校准概率。实验据此质疑了将采样预算分摊到多个 CAV 的既有做法。
AsyncFC 是一个纯执行层框架,将 LLM 解码与函数执行解耦,在依赖允许时实现解码与执行重叠及函数间并行,无需微调或修改标准同步函数调用协议。在编码任务上,AsyncFC 取得 1.4 倍端到端加速并保持任务准确率。结果还显示,LLM 具备对表示未完成执行结果的符号 Future 进行推理的原生能力。
Discrete MeanFlow 提出一种有限状态理论框架,用概率质量传输替代连续 MeanFlow 的点运动,核心是连续时间马尔可夫链(CTMC)的条件转移核,并定义平均离散速率衡量有限区间内的平均转移概率变化。
研究者提出 DRIFT,一种用优势加权离散流匹配损失更新离线预训练连续时间马尔可夫链(CTMC)策略的在线微调方法,并通过路径空间惩罚正则化完整 CTMC 轨迹分布以保留预训练知识。
研究提出理论框架,通过覆盖数界定群平均与规范化方法在非不变骨干网络上的泛化误差,证明规范化模型的误差界最好与结构不变和群平均模型持平,最差与非不变基线持平,且取决于规范化的正则性。在点云置换群上,该框架证明字典序排序的覆盖数随维度指数增长,而 Hilbert 曲线规范化保证多项式增长,首次为 Hilbert 曲线序列化在 SOTA 点云架构中的成功提供形式化理论依据。
HIMMEL 用稀疏语义锚帧加轻量压缩域三流适配器编码帧间运动,在 Video-MME 上以 3.6 倍更少上下文 token 超过 32 帧密集基线 2.3 个百分点(61.2% 升至 63.5%),单题端到端耗时从 2.75 s 降至 1.03 s。
AdaGamma 是一个用于深度 actor-critic 强化学习的状态依赖折扣框架,通过学习有界折扣函数 γ_φ(s),并用回报一致性目标训练,避免 TD 误差目标中的退化捷径与 TD-collapse。该方法可集成进 SAC 和 PPO,在连续控制基准上取得提升,并在 JD Logistics 平台为期四周的在线 A/B 测试中获得统计显著收益。
针对 GRPO 等无 critic 算法在 RLVR 中时间信用分配过于粗粒度的问题,研究者提出选择性后继资格迹(S-trace),通过后继重要性重加权恢复 PPO 裁剪下的下游信用信号,并借助基于熵的 token 选择将其传播到选定的历史 token。
针对组合式扩散规划在局部计划多模态时出现的模式平均问题,研究者提出免训练引导方法 RCD,用预训练扩散模型的自重建误差作为组合计划对数密度的代理,并结合重叠一致性项约束分段边界。在 OGBench 的移动、物体操作和像素观测等长时程任务上,RCD 持续优于现有方法,该工作已被 NeurIPS 2026 接收。
针对现有反蒸馏防御会留下句法不连贯、重复链等可检测痕迹的问题,研究者将反蒸馏建模为带可检测性约束的 max-min 博弈,提出 Thought Anchor RemovalS(TARS),通过移除语义冗余的思维锚点来干扰下游蒸馏,并给出可检测性的形式化保证。
研究在 DriveLM-nuScenes 上对比两种跨阶段上下文传递机制:显式变体在 4B 模型 Mini-InternVL2-4B-DA-DriveLM 上免训练使用三种提示策略。
研究者提出一个混合整数线性规划(MILP)框架,为固定参数 m 和 k 精确计算 Condorcet 获胜集下界,通过将选民建模为排序分布消除了对选民数 n 的依赖。该框架证明在 k ≥ 8m/9 的线性区间内,猜想中的 2/(k+1) 上界成立,首次给出与已知下界匹配的结果,并可刻画其他社会选择公理间的关系。
PROGRS 框架将过程奖励模型(PRM)的分数作为结果分组内的相对偏好而非绝对目标,通过结果条件化中心化把错误轨迹的 PRM 分数在每个 prompt 组内平移为零均值,并结合冻结的分位数回归 PRM 与多尺度连贯性评估器,直接集成进 GRPO。
JAL-Turn 是一个轻量级纯语音轮次切换检测框架,通过交叉注意力模块自适应融合预训练声学与语言表征,实现低延迟的 hold/shift 预测。它共享冻结的 ASR 编码器,使轮次预测与语音识别完全并行,几乎不增加端到端延迟。在 Easy-Turn、Smart-Turn 及内部日语客服数据集上,JAL-Turn 检测准确率媲美强基线,同时保持更优的实时性能。
针对 GRPO 等 on-policy 算法丢弃历史 rollout 导致样本效率低、策略过度集中于单一解的问题,研究者提出动态 Jensen-Shannon 回放(DyJR)正则化框架,用近期轨迹构建动态参考分布。
OxyGen 提出统一 KV cache 管理,将 KV cache 视为跨任务与控制周期共享的一等资源,通过跨任务 KV 共享消除共享观测的冗余 prefill,并用跨帧连续批处理在每帧解码预算内推进未完成请求。
HybridStitch 是一个免训练框架,通过 token 级反馈为每个更新选择提供模型的来源,在四个主要基准上实现图像生成提速 1.63–1.68 倍、扩散大语言模型(dLLM)吞吐量提升 1.15–1.58 倍。该方法让连续图像精修与离散语言承诺共享同一生成状态,并以模型专属 KV 缓冲为选定查询提供注意力上下文。dLLM 解码查询成本估计降低 50–66%,生成质量相当。
研究提出一种基于梯度的双层优化框架,用可微神经代理模型替代传统动力学模型,并通过结构利用方法对轨迹优化器求导,实现气动外形与控制器的协同设计。在固定翼滑翔机上以 NeuralFoil 作为气动代理验证,2D 翼型和 3D 机翼实验显示该方法比 SOTA 进化基线快约五倍,并优于仅优化气动代理指标的流程。
研究者提出一种基于生成流网络(GFlowNets)的最短路径学习框架,证明当总流量最小时,前向与后向策略仅沿初始与终止状态间的最短路径遍历环境图。该方法将任意无权图的最短路径问题归约为寻找总流量最小的非无环 GFlowNet,并用流量正则化训练近似求解。在排列环境寻路和多种尺寸魔方求解中,其解长度与专为该任务设计的 SOTA 机器学习方法相当,且测试时所需搜索预算更小。
研究者提出一种神经符号验证框架,将 VLM 生成的放射学报告自由文本自动形式化为结构化命题证据,并用 SMT 求解器 Z3 结合临床知识库判定每条诊断结论是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七款 VLM,该验证器揭示了传统指标无法察觉的推理失败模式,如保守观察与随机幻觉。在标注数据集上,以求解器蕴含约束作为事后保证,可系统性消除无依据幻觉,显著提升诊断可靠性与精确率。
针对有向动态图边分类中源、目标、查询、邻居等角色被共享参数混淆的问题,研究者提出一种基于序列模型的实验框架,通过定向嵌入和非对称预训练目标显式解耦角色语义。在多种标签预算下,该显式解耦相比基线取得显著且一致的相对性能提升,表征分析显示其收益来自源与目标隐空间的分叉,从而提升线性可分性。
研究发现,直接优化 Pass@k 的推理感知微调方法会因提示词干扰引发梯度冲突,导致 Pass@k 提升的同时 Pass@1 下降。其机制在于 Pass@k 策略梯度隐式地将提示词权重向低成功率提示词倾斜,当这些提示词存在负干扰时,更新方向会偏离 Pass@1 方向。该结论在数学推理与代码生成任务的大语言模型实验中得到验证。
研究者提出一种完全绕过模拟器的方法,直接在从真实机器人交互中学习的世界模型内训练 RL 策略。其核心是解耦一阶梯度(FoG)方法:全尺寸世界模型生成精确前向轨迹,轻量潜空间代理模型近似局部动力学以高效计算梯度。在 Push-T 操作任务上,该方法样本效率显著优于 PPO,并在四足机器人的自我中心物体操作任务中得到验证。