TSRL:基于触发的监督强化学习实现智能体持续训练
研究者提出 TSRL(Trigger-based Supervised Reinforcement Learning),以 RL 为优化主干,仅在策略失败的"hard states"上选择性激活 SFT,理论上可限制累积参数更新上界以减少遗忘。
研究者提出 TSRL(Trigger-based Supervised Reinforcement Learning),以 RL 为优化主干,仅在策略失败的"hard states"上选择性激活 SFT,理论上可限制累积参数更新上界以减少遗忘。
研究者提出 SCRIM(State CRIticality Measure),通过训练对抗扰动策略与价值评论器,为每个演示状态打出关键性分数,衡量该状态下小幅动作偏差对任务结果的影响。这些分数可用于重加权行为克隆损失,并筛选紧凑高价值演示子集,在保持性能的同时大幅减少训练数据。SCRIM 在多种仿真与真实机器人操作任务上验证,论文已被 CoRL 2026 接收。
LeanPRM 利用 Lean 证明助手为自然语言数学证明自动生成步骤级标签,构建了含 10,634 条证明、152K 标注步骤且无需人工标注的数据集。基于 Qwen3-4B 训练的验证器在 200 条证明的 LeanPRM-Bench 上把步骤标签准确率从 48.2 提升到 74.7,而同一基座用 PRM800K 训练仅得 60.3。
研究团队提出 zPocket,在共折叠模型的冻结特征之上训练口袋预测头,并发布 PocketWatch 数据集用于评测对新型口袋的泛化能力。最佳 zPocket 模型整体 per-target AUPRC 达 0.745,高于在 PocketWatch 划分上重训的 VN-EGNN(0.598)和 UniSite-1D(0.595),P2Rank 为 0.477。
DeltaTTG 通过共享进度计量器学习可复用的进度信号,其监督目标 Token-to-Go(TTG)即任务完成前还需生成的 token 数,作为剩余完成工作量的可观测代理。
arXiv 论文重新审视了扩散语言模型(DLM)与自回归语言模型(ARM)之间被广泛引用的 16 倍预训练算力差距,认为原方法用 ELBO 打分并训练全序列 decoder-only 模型,已与当前 DLM 实践脱节。
针对 Muon 以线性层输出的 RMS 变化近似整个模块、在 softmax 上失真的问题,研究者提出用 Hilbert 距离作为约束输出分布变化的自然度量。该距离可界定交叉熵损失变化并限制概率重分配,在 softmax 下表现为预激活扰动的变差半范数,从而把概率约束转为参数约束。
研究者提出模型无关框架 CHASE,通过检测标签迁移并覆盖过时的邻域信号,解决动态图神经网络中"迁移节点"分类性能系统性落后于稳定节点的问题,在全部测试模型和数据集上准确率最高提升 114.9%、F1 最高提升 202.5%,同时保持稳定节点性能。该工作还贡献了三个具有自然标签迁移的动态图基准数据集,代码已开源,论文被 NeurIPS 2026 接收。
研究在相同的 14 个分割、分类与回归任务上对 23 个 3D 医学基础模型候选进行基准测试,发现没有任何候选能在所有分割任务或所有分类回归任务中稳居前三。研究同时评测可迁移性估计器,其中 InsightRank 借助任务适配的冻结特征统计与架构感知成对比较,在 23 个模型池上分割任务平均 Kendall tau-b 为 0.431,分类与回归为 0.352。
针对联邦学习金融欺诈检测中恶意客户端投毒问题,研究者提出 Enhanced Detective 双阶段鲁棒聚合策略,结合 MAD、基于距离的更新过滤与 FedMedian 聚合。在不平衡信用卡数据集上,面对 40% 恶意客户端、50 轮通信下的定向标签翻转与权重缩放攻击,该方案取得 0.796 AUPRC 和 0.847 Recall。
YUBI-Real2Sim 是一个基于 3DGS 的场景重建与 real-to-sim 策略评估框架,支持双鱼眼腕部视角,在九组场景-任务对比中有八组复现了真实世界的策略排序。
研究者提出基础事件预测器(FEP),一种可扩展的上下文学习架构,通过事件级非参数推理完成下一事件预测,并将整个预测过程表达为标准注意力操作,可用 FlashAttention 等现代内核并行加速。FEP 在 696 个真实事件数据集上预训练,并在 50 个未见数据集上评估,无需参数适配即可泛化到新事件系统,性能常接近各目标数据集单独训练的强模型,并显著优于现有基础模型基线。
VeriPIE 是一个神经符号框架,将语言模型生成与符号检查结合,通过 Lean 实现的后端校验 QuerySketch 结构化计划语言,并用计划诊断指导修复、以执行一致性和区分性数据库搜索筛选候选。
一项研究评估了六种文本模型和一个图神经网络(GNN)在预设社交噪声构念下缓解虚假信息的效果,数据集为 2024 年 3 月至 2025 年 3 月从 X 平台采集的 50 万条乌克兰话题推文。
研究提出用 Shapley 值衡量模型在模型池中的"组合强度",发现个体能力与协作贡献在 15 个(模型池、方法族)设置中有 12 个不相关,独立基准难以代理模型在协作系统中的价值。
World-T3 是一个相机控制的视频世界模型,通过测试时训练把过往观测固化进模型参数作为持久记忆,并提出递归最小二乘规则以在线姿态键控方式增量更新记忆。在长时程重访基准上,其重访 PSNR 从 13.52 提升至 18.31 dB,绝对旋转误差从 3.344 降至 1.075,并在单张 NVIDIA B200 GPU 上以 1280 x 704 分辨率维持 20.6 FPS。
研究将肿瘤治疗规划建模为部分可观测下的交互式强化学习问题,用真实临床记录构建患者特异性、过程感知的奖励,智能体需先顺序采集信息再给出首选治疗方案。使用 GRPO 和 GDPO 优化 Llama-3.1-8B-Instruct,GDPO 训练的策略将 Mean@3 临床标量奖励较基座 Llama 提升 79.60%,在同一交互环境中超过 GPT-5.2 达 18.82%,同时减少训练中的查询次数。
研究者基于经典不变量理论推导出对 SE(2) 对称群可证明最优的不变特征映射,兼具最小性与信息保持性,且无需改动非线性层或归一化层。他们据此提出一个即插即用模块,让标准卷积神经网络同时具备平移与旋转不变性,实验显示精度与 SOTA 等变方法相当或更优,计算成本显著更低。论文还从理论与实证两方面分析了等变与不变的关系及其对鲁棒性和灵活性的影响,已被 NeurIPS 2026 主会接收。
研究者提出跨视图时频扩散框架 CrossTF,利用时间视图与频率视图去噪器之间的差异实现极端感知的时间序列生成。该方法发现极端敏感的跨视图不对称性,并据此在冻结两个去噪器后,仅需在晚期跨视图窗口内用基于极值理论的目标学习逐步融合参数。在 7 个真实数据集上对比 11 个基线,CrossTF 将极端保真度提升 26.1%,整体性能提升 7.4%。
研究提出 asymptotic e-detectors,将序列变点检测重构为投注博弈,允许检测器随新观测持续更新假设的偏移方向,并在校准集规模 m 增大时渐近控制平均误报运行长度,m=30 即可有效控制。
MetaGrid 是一个拓扑感知的 Transformer,通过跨市场元训练,用一套与区域数量无关的参数适配未见过的电网。在五个美国 ISO 的无泄漏基准上,MetaGrid 取得最低平均 MAE,比最佳基线提升 3.1%,比同架构从零训练提升 7.7%。
HASTE 是一个面向生成式推荐模型的统一训练框架,通过分层损失和属性特定损失,在语义 ID 的每一层级提供监督并保留细粒度物品属性。其分层损失收敛速度约为标准因果交叉熵目标的 2 倍,并在时尚推荐基准和 Amazon 数据集多个领域上提升了推荐性能,尤其改善了长尾物品的推荐效果。
JEDI-net(Joint Embedding with Dynamic Integration Network)是一种统一架构,在优化过程中周期性对 SHAP 值聚类,识别具有相似特征重要性模式的潜在子群,并将其身份直接嵌入网络,使预测能适应每个观测的预测结构。该工作基于此前的 FORCE 方法,后者已证明按特征重要性画像聚类可提升神经网络性能。
StartLux-Decision 推出 0.8B 至 27B 参数决策模型,Instant 版以双向注意力保持单次推理,AutoThink 版对不确定决策显式推理、对高置信案例直接作答。
研究提出用归一化互信息(NMI)检验网络是否真正学到数据增强中的对称性:在有限离散设定下,等变性要求原始与变换输入的表示能相互完全确定。针对高维激活,采用 centered kernel alignment(CKA)作为可扩展检验,对正交特征变换有精确保证。跨架构与任务实验显示,数据增强通常提升变换一致性,表明可直接从表示中探测学习到的等变性。
EneMonIE-Backend 将原 EneMonIE 概念流程重构为模块化、可执行且与应用无关的后端,分离数据源、采集与规范化、语义处理、知识组织、持久化五层。
研究将 PDE 神经代理训练建模为数据量与保真度的联合优化问题,把保真度视为细粒度离散谱而非二元区分,在固定数据生成算力预算下实现帕累托最优误差扩展。使用低保真度模拟作为额外训练信号,最优保真度混合训练可匹配纯高保真度训练的精度,数据生成算力最多减少 6.3 倍。该结论在六个 PDE 问题、两类误差来源和四种代理架构上验证,总计超过 7,000 次训练运行,已被 NeurIPS 2026 接收。
研究者提出 FOSA(Generative Flow on Symbolic Abstractions),通过将抽象策略参数化为生成流网络来构建符号任务骨架,再把每个骨架编译成仿真环境,以底层策略学习表现作为抽象策略的奖励信号,从而发现贴近机器人能力前沿的可执行任务。
研究团队提出 CalOn,一个 0.6B 参数的统一编码器,可跨数据集与 schema 完成实体、关系和事件抽取,通过联合编码文本与类型定义并综合所有请求类型的证据来做出抽取决策。
AIPOCH Open-Science 是一个开源 AI 研究工作台,通过可移植的 .science 会话包记录研究中的指令、计算、产物修订与检查关系,并给出交换契约。受控会话测试了错误初版、经审查修正、未审查修订与计划未执行步骤,完整与部分导出均保留版本和审查关联,并将排除内容标记为不可用。独立注册表案例中,离线执行保留脚本与固定输入逐字节复现了两张已保存 CSV 表。
研究对 OpenAI 于 2026 年 10 月 6 日公开的 722 篇 AI 撰写数学手稿(归为 372 个问题族)进行梳理,提取其中新提出的引理、构造、不等式与证明机制,并称之为数学工具。
研究者提出 GRAFT(Gradient Routing Adapter Fine Tuning),在奖励函数设定有误、监控器存在系统性错误时,将可疑样本的梯度更新约束到一组新增的"牺牲"参数上,而非惩罚或过滤这些样本。
SPLICE 框架可在无机制标签的混合轨迹数据中发现神经算子,通过求解凸优化问题推断候选算子对每条轨迹的贡献,再用校准测试为每个发现的算子分配其实现的物理机制。在一维和二维系统上,发现的算子能从无标签混合数据中恢复机制,并组合成未见方程的零样本模拟器;冻结的算子库还能在无标签、不遗忘的前提下为预训练中缺失的物理机制新增算子。在 Navier-Stokes 上,发现的算子组合精度与监督版本相当。
研究者推出 ProbabilityBench,在同行评审、隐蔽信息传递和信用风险三个模拟文本域中提供实例级精确类别概率,并解析计算精确类别概率与 Bayes error。
MAGNET 是一种流形感知图扩散网络,通过归一化 Cholesky 表示相关矩阵流形以保证生成的功能脑连接组合法性,并在 ROI 级区域 token 上以关系归纳偏置去噪。
TabGift 是一个上下文高效的表格基础模型,仅需少量上下文样本即可完成分布建模与数据生成。它用预训练表格编码器将异构表格映射到共享隐空间,由上下文扩散模型在少量干净样本条件下学习去噪,再通过轻量级数据集专属 MLP 解码器还原数据。在 7 个分类和 11 个回归数据集上,TabGift 的合成数据质量持续优于代表性基线,在有限上下文场景下提升尤为明显,且适配与生成速度大幅加快。
AUGUstus 是一个将扩散式动作生成与自回归 CoT 理解统一在一个模型中的自动驾驶 VLA 模型,理解仅服务于生成,并通过 AUGUstus-mode 让推理只需输出动作以实现低延迟。
SMILE 通过离线记录目标 VLM 自身的预测错误构建模型专属的 hard negatives 池,测试时以预测结果作为方向信号,在语义嵌入空间中找出当前查询最可能重犯的过往错误,无需属性提取、caption 工程等多阶段流程。
研究者构建了 SarcasTraps,一个含 479 条双维度标注(仇恨言论与讽刺)的土耳其语外部测试集,用于分析讽刺对仇恨言论检测的影响。在 BERTurk 和 XLM-RoBERTa 上微调的编码器模型对讽刺性仇恨内容召回率下降,而 GPT-4.1 与 Llama-3.3-70B 零样本推理虽召回率较高,但在讽刺样本上精确率大幅下滑。该数据集因含敏感内容,仅应学术研究请求提供。
研究者以 Cover Tree 为例推出统一 Rust 实现 RustKNN,涵盖三种构建变体与三种查询模式,发现实现细节会显著改变算法性能排名。最优查询策略取决于 k 与数据集,选错查询模式运行时最多差 7.5 倍;cover tree 的 base 参数在 dual-tree 搜索中并非安全默认值,1.3 仅在七个数据集之一上最优。