EventLens:面向视频理解的事件结构强化学习框架
EventLens 是一个以视觉为中心的强化学习框架,通过事件结构恢复来训练视频理解,涵盖事件分割、进程判别和多事件关系推理三类可验证任务,并可用确定性奖励进行 GRPO 训练。在 Qwen3-VL 骨干上,该方法在时间定位与事件敏感推理基准上取得一致提升,同时保持通用视频问答性能。研究还提出多教师在线策略蒸馏(MT-OPD)将多个专用策略整合为统一模型,训练成本显著低于直接混合 RL 优化。
EventLens 是一个以视觉为中心的强化学习框架,通过事件结构恢复来训练视频理解,涵盖事件分割、进程判别和多事件关系推理三类可验证任务,并可用确定性奖励进行 GRPO 训练。在 Qwen3-VL 骨干上,该方法在时间定位与事件敏感推理基准上取得一致提升,同时保持通用视频问答性能。研究还提出多教师在线策略蒸馏(MT-OPD)将多个专用策略整合为统一模型,训练成本显著低于直接混合 RL 优化。
研究者提出 Active Probing Benchmark(APB),将猜谜式概念识别转化为多轮主动探测的交互推理任务,覆盖八个学科领域、960 个专业难度目标概念。评测发现一个反直觉现象:多数开源推理模型的表现显著低于其标准指令版本,说明它们在交互场景中难以用过程性推理可靠调用专业知识。APB 同时提供可扩展的基准生成流程。
论文提出将隐性知识建模为记忆基底 VaCoAl 的一种运行机制,而非某类内容。VaCoAl 是基于 GF(2) 的代数确定性 XOR-and-shift 超维记忆,以 CASRAM 和 PyVaCoAl 实现;其 DAG 有 Rescue 与 Don't Care 两种读法,后者产生路径积分置信度 CR₂,形成"审计—估值互补"。
研究者将自回归解码的每步预测误差定义为采样 token 指示变量与模型条件预测分布之差,证明其累积误差过程关于解码滤波是鞅,条件一阶矩恒为零。该鞅序列的可预测二次变差可化简为 $\sum_t(1-p(y_t\mid y_{<t}))$,仅凭已实现的 token 概率即可计算。在 Llama-3.x 与 Qwen2.5 系列(1B 至 72B 参数)上的白盒实验显示,实测二阶矩与理论预测高度吻合。
研究者提出 Error-Chain-Aware Optimization(ECHO),一种将责任识别与信用分配分离的责任感知信用分配框架,通过冻结评判模型区分新引入错误、继承后果、遗漏纠正与成功纠正,并对共享下游后果只计一次、以来源出资的恢复约束修复自身错误的奖励。在六个工具调用基准、4B 与 8B 两个规模上,ECHO 在每个规模的六个基准中有五个取得最高分。代码已开源。
研究追问逐层训练后量化中,各层补偿前层继承误差在何种假设下能保证网络输出误差不增大。对任意深度线性网络,在校准 Gram 矩阵可逆、每层舍入误差条件均值为零且两种方案共享确定性二阶矩映射时,强度固定在 [0,1] 的补偿可给出不劣于无补偿的均方输出误差。
DiffNash 提出一种基于扩散模型的均衡计算框架,通过重加权 score-matching 目标训练扩散策略,无需从每次更新后的策略中直接采样,从而实现 Online Mirror Descent(OMD)与 Fictitious Play(FP)的扩散变体。
研究者提出 CodeTriage,一个 0.6B 参数的学习型策略,在生成和测试修订代码前,先读取测试输出、失败诊断和候选编辑,预测该编辑达到修复所需的修复步数分布,从而对多个程序的待处理编辑统一排序。
针对可验证奖励强化学习中大量 rollout 预算浪费在无学习信号状态上的问题,研究者提出方差驱动的状态重采样方法 VSR,其闭式解为 Neyman 分配 μ_var^π(s) ∝ d^π(s)·σ_π(s),并自然关联 GRPO 的组相对优势、随策略改进涌现出反向课程。
一项工业级对比研究显示,在基于 Semantic ID 的 LLM 推荐中,单头自回归 Beam Search 在排序与内容 QA 等多数产品关键指标上持续优于多 Token 预测(MTP),在 Qwen3-8B 规模下训练成本约低 2.6 倍,MTP 仅在原始推理吞吐上占优。
研究者提出 LLM Value Function RL(LVRL),利用预训练 LLM 的上下文学习能力估计策略感知的状态价值,无需微调独立 critic 即可实现步级信用分配。
针对现有多模态大模型快慢推理只调控文本推理长度、忽视视觉计算的问题,研究者提出统一推理框架 L2T,将工具产生的视觉状态离散化为视觉 token,使视觉感知与文本推理进入同一自回归空间。L2T 引入模态感知路由奖励选择推理模式,并用难度感知快慢策略按任务复杂度调整推理深度。在通用感知与推理密集任务上,L2T 相比显式工具调用方法保持有竞争力性能,吞吐量提升 1.7–3.6 倍。
HyperForecast 是首个在双曲空间中运行的长时时间序列预测(LTSF)框架,将分解后的时间片段嵌入 Poincaré 球,用径向距离刻画频率层级。它提供基于 Poincaré 残差动力学的自回归预测和并行预测全部未来片段的非自回归两种流形动力学变体,在 11 个长时预测基准中的 9 个上优于现有及 SOTA 基线,长时域均方误差最多降低 58%。
SARATHI 将结构化剪枝的神经元选择与权重重建解耦:无数据的 NMF Residual Subspace Probe 仅凭权重几何打分,Adaptive OBS 用局部校准批次重建权重,每层峰值内存为 O(d²),并加入 Bias Shift Compensation 修正 LayerNorm 后的激活漂移。
研究者提出纯黑盒红队框架 REPRO,仅靠单张消费级 GPU 上的压缩开源 7B 反思模型驱动进化优化来发现对抗提示词,并引入语义交叉与基于 Thompson Sampling 的贝叶斯策略选择。
CacheLink 通过直接学习接收方行为下的耦合 K/V 校正,实现零预填充的跨模型上下文交接。在四组独立训练的发送方-接收方模型对和七个评测面板上,CacheLink 在所有模型对上的等权平均指标均优于其他方法;在 32K 上下文下,相比接收方重新预填充,交接延迟最多降低 7.27 倍。
针对基于上下文的离线元强化学习(COMRL)在参数外推任务上编码器产生训练支撑集外潜在表示的问题,研究者提出悲观潜在任务感知优化(PLATO),通过在训练中扰动推断出的任务潜在表示合成反事实任务,并用学习到的解码器集成在扰动潜在上展开短轨迹,以悲观权重更新策略。在八个 MuJoCo 连续控制基准上,PLATO 在分布外任务回报上持续优于强 COMRL 基线,在分布内任务上保持竞争力。
研究者提出基于 E8 格点向量量化的 KV-Cache 压缩方法,用 2-bit 键加 2-bit 值的 k2v2 配置即可保持接近基线的质量。该方法在五种 LLM 系列上实现约 6 倍 KV 压缩,比标量 k3v2 小约 20%,并在 80% 的模型-数据集-上下文组合中困惑度优于标量 k3v2,同时解码吞吐与标量基线持平。
Gnani-Evon-v3.3-30B-A3B 是一款面向英语及八种印度语言的长上下文混合 Mamba-Transformer MoE 推理模型,基于 NVIDIA Nemotron-3-Nano-30B-A3B 检查点,保留 52 层主干并更换词表、训练数据与后训练目标。
这篇白皮书提出 Machine Deception Detector,同时针对检测准确率与检测器分数的不确定性:它读取语言模型每一层,仅用响应标签学习哪些 token 携带欺骗证据,并校准告警阈值使假阳性率低于预设水平。检测器集成通过成员一致性衡量每个分数的置信度,仅在成员一致时告警。评估在 Liars' Bench 五个未见欺骗任务上进行,使用 0.6B 至 32B 的六个 Qwen3 模型。
研究者提出 WisdomNet 神经网络架构,通过引入共轭神经元判断网络能否正确分类,使分类错误率降至 0%,无法确定的数据以约 10% 以内的比例标记为"拒绝"。该架构可应用于多层感知机、卷积神经网络和深度网络等已有模型,在多个数据集上完成验证。
研究者提出免训练 PTQ 框架 HGA-Quant,由尾部感知有界初始化网格精炼(T-BGR)与由粗到细激活精度调度(CAPS)组成,用于自回归视觉生成(ARVG)模型的低比特量化。在 Infinity 上,该框架以 W4A5.6 有效激活精度实现接近全精度的图像生成质量,而现有方法在 W4A6 下仍出现明显质量下降或表现不稳定。代码已开源。
研究者提出 Symplectic Hamiltonian JEPA(LeHami),用动作条件化的 Hamiltonian 流替换 JEPA 世界模型中的标准预测器,在结构化隐状态 (q, p) 上以精确辛 leapfrog 步积分,从而在任意 rollout 步保持相空间体积。
Sequent-Prover 是一族使用验证器的语言模型智能体,在可执行的 SMT-LIB 草稿本中推理,通过多轮查询 Z3、检查求解器反馈并修复形式化,最终给出显式答案。
PANINI-DR 是一个多智能体深度研究框架,将整体调查协调与子问题研究、验证分离,基于 Generative Semantic Workspace 构建共享工作空间记录子问题、依赖关系、发现与证据。
研究发现,LLM 基于深度的动态推理中,浅层出口比深层出口对越狱攻击更鲁棒,深层出口的对抗后缀优化能达到更低的攻击损失,而对抗后缀对各出口深度的效用影响基本一致。该结论可为设计更抗越狱的动态推理方法提供依据,代码已开源,论文被 NeurIPS 2026 FLMSec Workshop 接收。
针对 LLM 与容量受限人类专家协作的场景,研究者提出在线学习算法 KL-PBD,利用未知可靠性参数的 KL 下置信界指导延迟决策,在 K 个置信水平与时间跨度 T 下实现 O(K log T) 的间隔相关遗憾和 Õ(√KT) 最坏情况遗憾,并证明其最优性。该算法在 GSM8K、NuminaMath、MedMCQA 数据集上使用 Qwen LLM 完成验证。
VLCQ 是一种放宽定点编码约束的训练后量化方法,通过可变长度编码在降低位宽的同时无需训练数据或模型微调。在图像分类、分割和检测任务上,其逐通道量化在多数模型上超越 FP32 精度和 PWLQ,相比 FP32 最高实现 6x 压缩、相比 PWLQ 最高 1.7x;以压缩优先时相比 FP32 最高达 12.25x 压缩,性能损失低于 4%。
研究者提出神经符号论证推理系统 NARS,直接从在线讨论中检测说服力:神经部分用检索增强的迭代 LLM 推理抽取双极论证结构,符号部分用渐进论证语义在结构上传播论证影响。
针对平均奖励强化学习中 Bellman 算子仅在马尔可夫链混合时才具备 span 收缩性的难题,该研究提出在给定与奖励无关的 m-step 混合策略下,通过向该混合策略正则化来控制所学策略的收缩与探索性质。
循环算法推理器在小图上按步训练提示、在大图上运行更多步时,即使复现了全部训练提示,仍会在深图上提前宣告节点可达,研究者将这一现象称为"premature flood"。
针对离线示范者信息不可见导致对比强化学习(CRL)学到虚假动作—结果关联的问题,研究者提出因果对比强化学习(CauCRL),用混杂马尔可夫决策过程形式化该设定,并引入反事实转移区分数据可识别与不可识别的部分。CauCRL 从正负离线示范中学习悲观的反事实转移,并在反事实 rollout 上训练 critic,在混杂目标达成任务上成功率显著优于标准 CRL。
研究团队提出课程引导的强化学习框架,用于空间文本到图像生成。其 SpatialCritic 智能体奖励模型在 SpaRW-Eval 上达到 95.1% 验证准确率,以 40 倍小的 8B 骨干超越 320B 的 GLM-5.3-Flash,并将 SD3.5-Medium 平均基线分从 78.4 提升至 83.9、BAGEL 从 83.2 提升至 86.5。
针对长时程交互任务中稀疏终端奖励难以提供中间动作信用信号的问题,研究者提出 PTGPO(Prefix Tree Group Policy Optimization),一种无需 critic 的方法,在锚点状态组内对轨迹后缀构建前缀树,以子节点与父节点经验平均回报之差作为每条树边的信用。
该论文提出一种模糊控制方法,将基于对抗逆强化学习(AIRL)的奖励估计机制集成到策略梯度与模糊推理结合的基础模型中。方法将基础模型的策略作为生成器,并把策略中的隶属函数集合用作判别器的代价函数,使奖励估计的判别器更新与策略估计的生成器更新在共享参数上同步进行,无需估计价值函数。在车辆速度控制任务的仿真中,该方法通过稳定高效的学习获得了泛化性能较高的策略。
研究团队开发了 Lingdan-V2 中医语言模型系列,包含 4B、8B、14B 三种参数规模,采用分阶段临床对齐框架,融合中医与临床记录的大规模持续预训练、推理监督和以处方为中心的强化学习。
Prospective Forcing 是一种多头预测框架,通过在自回归视频生成器的共享历史表示上附加轻量级、偏移特定的预测头,让模型在训练时同时预测不同未来时间偏移的视频块,从而提升长视频生成的时间一致性。推理阶段,该方法利用被接受的未来块预测跳过完整窗口的主干执行以加速采样,并通过可学习嵌入生成下一块的多个候选,由学习到的验证器选择或回退到标准自回归生成。
研究通过"顺序采样器"(仅依据前序符号和少量状态采样下一个符号的电路)刻画自回归 token 生成的能力边界。结果表明,带 k 比特状态的顺序采样器可用无状态采样器以约 O(2^k) 规模开销模拟,且高效插入式采样(Stern 等,ICML 2019)强于任意固定顺序的高效顺序采样。小状态顺序采样器无法建立某些形式的隐蔽密码信道,这为防范恶意 LLM 智能体间的潜意识协同提供了潜在安全机制。
LASER 是一种面向稀疏、可废止协议证据的证明携带搜索方法,将缺失依据与未决修正表示为显式义务,由符号检查器判定证书是支持、反驳还是无法裁决某行为。在 91 个 BehaviorCheck 家族、2K 预算下,LASER 在两个模型族上将 Joint Edge+Proof 分别提升 .132(p=.017)和 .198(p<.001),并将误发现减少 2–3 倍。
Active Neural Matter(ANM)提出一种有限窗口响应框架,用于判断状态需保留哪些历史交互信息才能解释未来响应。前向分析预测状态与输出对扰动的响应,逆向分析检验候选状态信息是否充分,其分布分离度给出最坏情况误差下界。延迟共识仿真验证了响应幅度与相位的解析预测,AI 实验则识别出复现响应分布所需保留的交互历史与证据顺序差异。