面向 HL-LHC 异常检测的学习事件表征局部诊断方法
研究在 COLLIDE-2V(7.5 亿事件、HL-LHC 真实条件模拟)上评估监督与自监督神经嵌入策略,以学习潜空间中自编码器的重构误差作为异常分数,监督目标整体优于自监督,最佳配置在 10% 背景接受率下对所有留出过程的信号效率均超过直接基于运动学特征训练的自编码器。
研究在 COLLIDE-2V(7.5 亿事件、HL-LHC 真实条件模拟)上评估监督与自监督神经嵌入策略,以学习潜空间中自编码器的重构误差作为异常分数,监督目标整体优于自监督,最佳配置在 10% 背景接受率下对所有留出过程的信号效率均超过直接基于运动学特征训练的自编码器。
SWE-Critix 是一套后训练流程,用于训练能判断编程智能体执行轨迹并生成自然语言分析解释的通用验证器。该流程结合 SFT 与 RL,基于 CodeForge-Preview 轨迹训练了一系列 30B 模型,在留出测试集上将分类准确率从基础 Qwen3-30B-A3B 推理模型的 57% 提升至 SFT 后的 66%、RL 后的 78%。模型、数据集与训练代码均已开源。
研究者提出 ChemDiffAgent,首个用于工具集成化学推理的掩码扩散语言智能体,将化学推理重构为对推理与工具调用交错轨迹的迭代去噪,使工具使用决策在完整轨迹上下文中联合确定。在匹配预算与评测下,其整体性能较自回归智能体提升约 20%,8B 模型可媲美甚至超越 GPT 5.5、Claude Opus 4.7 等更大规模前沿模型。代码已开源,论文被 NeurIPS 2026 接收。
针对长程多模态任务中 RLVR 效果不足的问题,研究者提出 AdaC-GRPO,通过在线 rollout 准确率追踪模型的"最近发展区"来动态构建训练批次。
研究者提出 TQS(Trajectory Quality Score),一种直接作用于轨迹结构、无需 LLM 评判且线性时间运行的编程智能体轨迹评分框架,围绕信息聚焦、意图-动作对齐与策略动态刻画结构化收敛。
针对 LLM 生成的工业场景程序"可执行但工程不可行"的问题,研究者构建了含 1,749 个可构建场景、每个场景 94 项最终状态几何检查的数据集,并提出 VIGOR,将监督式场景程序生成与执行验证、分阶段几何精修结合。VIGOR 达到 96.86% Complete Feasibility 和 91.20 的 Overall 分数,Overall 较最强基线高出 10.42 分。
针对百万 token 级长上下文下差分隐私推理效用严重退化的问题,研究者提出记忆引导框架 DP-MIND,通过本地扰动输入、分块处理并用紧凑记忆保留任务相关信息,将差分隐私推理扩展至百万 token 上下文。该框架用强化学习直接在扰动输入上优化记忆构建策略,并以本地去噪模块恢复被扰动破坏的答案片段。在多个长上下文基准上,DP-MIND 在可扩展性与效用上均优于现有差分隐私及长上下文推理基线。
针对扩散模型等现有方法在路网轨迹生成中难以处理路口转向选择、甚至生成偏离路网轨迹的问题,研究者提出图约束生成范式"预期生成建模"及模型 Foresight。Foresight 通过"预期—选择—更新—再预期"的概率循环,在沿历史轨迹顺序生成的同时实现对未来路线的长期前瞻,实验表明其优于当前最优基线。
研究者推出 DRYLAB-Bench,首个评估 LLM 智能体高危生物突变设计能力的基准,包含 30 个真实危险突变设计场景,并用 Biosecurity Risk Score(BRS)对照 ProteinGym 与 ViroGym 的 187,695 条湿实验数据打分。
LongHarness 是一个模型无关的 Agent 框架,通过证据与结论协同演化以及证据生命周期管理,让检索聚焦于尚未解决的信息需求,避免无界探索和证据状态漂移。
针对人机反复交互中同一观察被多次转述、重复被误当作独立佐证的问题,研究者提出关系型训练目标 LQET,将稀疏贝叶斯监督与约束结合,使模型依据报告来源而非报告数量更新信念。
研究者提出一种可扩展的赋权最大化方法,将赋权定义为某状态下可执行技能的数量,最大化赋权即抵达适合多种技能的起始状态,该方法适用于任意底层技能学习算法。实验显示赋权最大化涌现出资源采集、环境改造、生存等特性,并在 Crafter 中学会建造房屋。论文与代码已公开,共 30 页、13 张图。
研究者提出后见之明结构化建议蒸馏(HSAD):让小型顾问模型读取输入并生成结构化建议,追加到冻结执行器智能体的提示词中,顾问通过分析执行器失败轨迹并由教师模型示范建议来监督微调。
Work2Skill 框架通过 WorkRecorder 采集屏幕录制、鼠标键盘事件与无障碍树信息,构建了首个同步多模态人类桌面 GUI 演示数据集 WorkDemo-350(350 条演示),并提出按需检查证据的智能体技能归纳方法,生成包含工作流规则、步骤依赖与完成校验的可复用技能。
研究提出 CQG-Single 与 CQG-AR 两种连续查询范式,去除 Semantic IDs 的 item-token 词表、码本查找和离散束扩展,从而消除有限束解码带来的可达性约束,并让每个编码物品可直接通过稠密或近似最近邻检索打分。
研究者提出不确定性引导的渐进收缩框架,通过蒙特卡洛推理树暴露过程级不确定性,将教师生成的 CoT 语料先收缩为紧凑池,再在 SFT 中按学生学习状态在线路由优化。在多种推理基准和 LLM 家族上,该方法仅用全量数据 SFT 0.22% 的优化预算、训练曝光减少超 450 倍,仍保持或提升推理性能,并可跨异构学生模型、黑盒教师和弱到强迁移泛化。
研究提出"协作学习"方法,通过模型切片将大模型替换为参数量相当的异构小模型,让先前的推理能在不同参数化下被重新评估,并用金字塔监督结合协议蒸馏与步骤级监督优化协作决策。在多跳问答、数学推理、代码生成和开放式约束生成四类任务上,训练后的异构模型性能达到或超过原大模型及多智能体基线,推理效率更高。
研究构建了来自主流 AI 模型的产品排序数据集并估计 Plackett-Luce 排序模型,发现忽略 AI 中介会使零售商品组合的平均收入损失达 2.52% 至 11.37%。仅基于拟合 AI 效用排序的确定性插件方法表现更优,平均损失不超过 0.53%。针对确定性中介下的组合优化问题,研究证明在客户细分数量固定时存在完全多项式时间近似方案。
DeFiRank 是一个基于联邦学习的成对排序框架,让多家机构在不共享私有交易数据的前提下协同训练排序模型,用于去中心化金融网络的治理。在真实区块链交易数据集上,其 NDCG@15 约为 0.87,略低于中心化基线的约 0.92,但排序稳定性与后者持平(Kendall τ 均约 0.70),并完成 648 个提供商的晋升与 39 个的降级。
研究者提出 Collaborative Theory of Mind(CToM)框架,让 LLM 先起草回复、预测用户将如何回应,再据此在给出答复前完成内部修订,训练时将用户对每版草稿的回复作为预测目标,并结合 GRPO 优化任务表现与交互效率。
针对 On-Policy Self-distillation(OPSD)自我改进方法会逐步退化模型已有能力的问题,研究者提出表征几何正则化(RGR),通过增强簇内紧凑性与簇间分离度来保持隐藏表征几何。RGR 可无缝集成进现有 OPSD 方法而不改变其核心优化流程,在多种 OPSD 方法与基准上普遍缓解了能力退化,同时保留能力提升。代码已开源。
研究提出单元级、正交、线性三层嵌套的模块化框架,并通过选择性消融进行因果评估,发现视觉模型、语言模型和多任务 RNN 虽缺乏单元级模块化,却常在子空间层面呈现清晰的功能模块化。在视觉与语言模型中,内容与风格、句法与语义在子空间消融下分离,且这些子空间与脑数据的对齐方式各异。该分解还能在 RNN 中恢复任务间的双重分离,为机制可解释性提供支持。
arXiv 论文《Reward Hacking as a Transmissible Strategy in Multi-Agent Coding Systems》指出,奖励黑客并非单智能体故障,在一个智能体中诱发的策略会传播给其他智能体并影响系统协作。
该方法在仅有 N~100–500 对配对样本、两侧无配对数据充足的条件下,将每个表示表达为与 N 个配对锚点的相似度,把两种模态放入同一坐标系,并用一个在全部数据池上求解的熵最优传输问题匹配两个点云,其边缘约束可抑制最近邻匹配中的 hubness 问题。
该研究提出一套 LLM 驱动的自动化流水线,通过分块属性提取、分层路由和迭代精炼,将硬件数据手册转化为分层硬件知识图谱,并保留来源溯源。在 20 份硬件数据手册上,该框架实现 98.8% 属性忠实度,而一次性处理基线仅为 76.1%;该框架完整覆盖了基线 83.6% 的忠实属性,反向基线仅覆盖其 10.5%。
针对 RLVR 数据中约 88% 问题在固定策略与 rollout 预算下全部答对或全部答错、形成零优势陷阱的问题,研究者提出递归数据合成算法 MagicBeanStalk,通过自顶向下分解与自底向上递归,将种子问题扩展为策略与预算校准的新训练题。
CLEAT 通过价值引导的智能体协同训练框架,让 LLM 智能体学会在信息不完整时提出有用问题并利用回答改进决策。该框架用配对 rollout 估计"残差查询价值",协同训练澄清价值控制器与任务策略。
研究者提出 Behavioral Self-Rewarding(BSR),复用策略本身对同一任务、同一验证器结果下的轨迹进行调试行为两两比较,将偏好聚合为任务内分数并转为有界辅助奖励,在不新增环境交互的前提下引入奖励对比。在 SWE-bench Verified 和 SWE-bench-Live 上,Qwen3-14B 与 Qwen3-32B 配置均取得一致提升。
针对合成数据中反馈与决策脱节的问题,研究者提出 EvoSyn——一个由学习反馈驱动的多智能体框架,通过可修订状态组织合成过程,将学习者反馈转化为合成修订,并支持生成空间的扩展。在 τ²-Bench 和 CAR-Bench 上,EvoSyn 平均任务成功率较最强合成基线提升 13.3 个百分点,同时生成质量更高、结构更广的合成经验。
针对现有 FP4 RL 方法分别优化训练与 rollout 路径量化精度、未直接缩小两条量化执行路径差异的问题,研究者提出 TRACE 框架,用 rollout 侧量化结果引导训练侧 FP4 舍入决策,并缓存深层尾数与 scale 信息以降低存储和通信开销。
研究者提出 EAVA(Encoder Awakening via Adapters),一种面向 Speech-LLM 语音识别的领域自适应微调方法:先在各编码器层插入轻量 adapter 并单独训练,再对 LLM 应用 LoRA 联合微调全模型。
Google 等机构研究者提出 ResidencyRL,一种通过模拟多轮临床问诊(每条轨迹最多 60 轮对话、8 次工具调用)训练临床 AI 智能体的强化学习方法,奖励对齐诊断准确性、管理质量、沟通、文书与安全。
研究用超 75 万张图像、14 个数据集、5 种成像模态及 101 个胸片与组织病理模型测试医学基础模型的表征一致性,发现两个公开模型对胸片 10 个最近邻的平均共享比例仅 0.091,随机初始化网络为 0.036。
研究者提出 SkeMex,一个部署后自进化框架,通过技能记忆提升医疗智能体推理能力且不更新模型权重。SkeMex 将交互轨迹蒸馏为结构化技能,组织成覆盖通用、任务特定和动作级经验的多分支仓库,并依据环境反馈估计上下文相关效用,指导价值感知检索与仓库治理。在多种临床任务中,SkeMex 在离线和在线设置下均持续优于代表性记忆型智能体,并可跨模型骨干泛化,支持可迁移的技能记忆。
研究从熵分配视角重新审视 LLM-based ASR,提出三项指标刻画训练范式如何在语音编码器与 LLM 之间分配熵减,并据此设计基于能力边界意识的多阶段训练策略。该方法在中文和英文基准上仅用 2.3B 参数即达到与 SOTA 模型相当的竞争力,同时通过解耦设计有效缓解模型幻觉。论文已被 NeurIPS 2026 主赛道接收。
研究者对预训练 LLM 的权重矩阵做标量 K-means 聚类,仅用 16–64 个共享值替换原权重,在 Llama 3.1-8B-Instruct 和 SmolLM2-135M 上无需重训练即可保持较强准确率,仅微调聚类质心还能挽回 30–40% 的剩余精度损失。
COBALT 提出一种复用离线多轮轨迹训练 LLM 做多轮代码生成的方法,基于多轮代码生成是一步可恢复马尔可夫决策过程的观察,先用参考 LLM 收集轨迹并切分为部分轨迹,再通过单步代码生成完成每个部分轨迹。
研究者构建了 Wikidata Search Traces 数据集,包含 10,235 条单实体与多跳问题的求解轨迹,并开源了生成这些轨迹的递归语言模型(RLM)harness。
研究团队提出 ZenGen 框架,用于测量、内化并落地大语言模型的社会智能。配套基准 SoMBench 覆盖 3 个一级维度、17 个二级维度和 71 种任务范式,共 284 个场景、3,481 个专家核验实例;20 个代表性 LLM 中最佳模型总体准确率仅 72.08%,17 个二级维度无一达到 90%。
研究者提出 Lychee-Reranker,一种解耦查询与文档计算的 FBNL 重排序模型,通过离线编码文档与 cross-attention 建模相关性,提供 Nano、Small、Large 三个版本,激活参数分别为 0.27B、1B、4B。