CalibAdv:为搜索智能体校准 GRPO 优势的负优势双刃剑问题
针对 GRPO 在多跳搜索中惩罚正确中间步骤、训练不稳定等问题,研究者提出优势校准方法 CalibAdv,利用中间步骤正确性在细粒度上缩减过大的负优势,并重新平衡正负优势以提升训练稳定性。该方法采用轻量设计,仅从标准 rollout 信号校准优势,在三个模型和七个基准上同时提升了性能与训练稳定性,代码已开源,论文被 EMNLP 2026 Findings 接收。
针对 GRPO 在多跳搜索中惩罚正确中间步骤、训练不稳定等问题,研究者提出优势校准方法 CalibAdv,利用中间步骤正确性在细粒度上缩减过大的负优势,并重新平衡正负优势以提升训练稳定性。该方法采用轻量设计,仅从标准 rollout 信号校准优势,在三个模型和七个基准上同时提升了性能与训练稳定性,代码已开源,论文被 EMNLP 2026 Findings 接收。
研究者提出一套合成数据生成流程,用于长上下文音频推理的训练与评测,并以首诊医患对话生成 SOAP 病历为任务实例化。该流程完全基于开放权重模型,包含人设驱动对话生成、带重叠/停顿建模与房间声学及声音事件的多说话人音频合成、LLM 生成参考 SOAP 病历三个阶段,已发布 8,800 段合成对话、1.3k 小时音频及参考病历。
PROGRS 框架将过程奖励模型(PRM)的分数作为结果分组内的相对偏好而非绝对目标,通过结果条件化中心化把错误轨迹的 PRM 分数在每个 prompt 组内平移为零均值,并结合冻结的分位数回归 PRM 与多尺度连贯性评估器,直接集成进 GRPO。
TopoPilot 是一个用于自动化复杂科学可视化工作流的智能体框架,采用编排器与验证器双智能体架构,并加入确定性护栏。在覆盖 100 个提示词的 1000 次模拟多轮对话中,其成功率超过 95%,而无全面护栏与验证的基线不足 50%。在相似提示下,TopoPilot 在准确率、完成时间和 token 用量上均优于 Claude Code 和 Codex。
研究提出基于监督对比度量学习(CML)的点云分割聚类方法,通过学习隐空间嵌入使同物体点聚集、无关点分离,再用密度读出重建簇。在模拟高粒度量能器数据上,与object condensation(OC)在相同图神经网络骨干和潜维度下对比,CML对电磁和强子簇产生更稳定可分的嵌入几何,在高多重数场景下重建效率和纯度更高,能量分辨率更优,混合粒子环境中OC性能显著退化。
针对 GRPO 等 on-policy 算法丢弃历史 rollout 导致样本效率低、策略过度集中于单一解的问题,研究者提出动态 Jensen-Shannon 回放(DyJR)正则化框架,用近期轨迹构建动态参考分布。
研究者提出 Event Logic Tree(ELT)知识表示框架,将自然语言事件描述转化为信号基元上的结构化时序逻辑,并据此构建神经符号 VLM 智能体框架 SELA,迭代地从信号可视化中定位基元并按 ELT 约束组合,同时输出事件区间与树状解释。
HybridStitch 是一个免训练框架,通过 token 级反馈为每个更新选择提供模型的来源,在四个主要基准上实现图像生成提速 1.63–1.68 倍、扩散大语言模型(dLLM)吞吐量提升 1.15–1.58 倍。该方法让连续图像精修与离散语言承诺共享同一生成状态,并以模型专属 KV 缓冲为选定查询提供注意力上下文。dLLM 解码查询成本估计降低 50–66%,生成质量相当。
Spectra 是一种在存在重配置延迟 δ 时,将单个 AI 流量需求矩阵 D 调度到 s 台并行 OCS 上以最小化 makespan 的算法,采用“分解为加权置换—负载感知分配—受控置换拆分均衡负载”三步流程。
研究发现,直接优化 Pass@k 的推理感知微调方法会因提示词干扰引发梯度冲突,导致 Pass@k 提升的同时 Pass@1 下降。其机制在于 Pass@k 策略梯度隐式地将提示词权重向低成功率提示词倾斜,当这些提示词存在负干扰时,更新方向会偏离 Pass@1 方向。该结论在数学推理与代码生成任务的大语言模型实验中得到验证。
研究探索在 30 秒至 30 分钟短窗口约束下,将单通道脑电(scEEG)与光电容积脉搏波(PPG)融合用于 4 类睡眠分期。
研究发现,延迟泛化(训练准确率远早于测试准确率接近完美)可在使用梯度下降和指数尾损失训练的线性模型中、在线性可分数据上出现。作者将有限时间超平面动力学刻画为三个阶段:种群阶段、支持向量主导的遗忘阶段和泛化阶段,并通过对种群与支持向量分布的控制实验验证了该理论,还在 MNIST 上单输出神经元的深度模型中验证了预测的偏置行为。
针对现有指代多目标跟踪(RMOT)仅依赖 2D RGB 观测、难以唯一确定目标的问题,研究者提出 DRMOT 任务并构建 DRSet 数据集,包含 186 段 RGB-D 源序列上的 2,076 条指代表达,配有同步 RGB 图像、深度图及显式深度相关描述。
研究者提出 TTT-Parkour,一个 real-to-sim-to-real 框架,通过在部署前于仿真中对环境特定策略进行快速微调,让 humanoid 机器人在预训练未见过的复杂地形上完成跑酷。
研究者提出 DCD 分解式因果发现框架,将每条时间序列拆分为趋势、季节与残差分量并分别做因果分析:趋势用平稳性检验、季节用核依赖度量、残差用约束式因果发现,再整合为统一的多尺度因果结构。在大量合成基准和真实气候数据上,该框架比 SOTA 基线更准确地恢复真实因果结构,尤其在强非平稳与时间自相关条件下。
研究者提出 Scalable Power Sampling,一种无需训练也无需验证器的算法,通过自回归地锐化基座模型的生成分布来提升 LLM 推理能力。该方法基于自回归幂分布的词元级分解,将全局幂分布近似为词元级缩放低温分布,缩放因子捕捉未来轨迹质量,从而省去迭代 MCMC。
在 591,884 张胸片、5 个数据集上训练的差分隐私胸片分类器显示,胸片监督预训练在 25 种数据集与隐私设置组合中的 24 种排名第一。以 AUC 衡量,其相较自然图像监督预训练的优势在无隐私时为 2.6%,在最严格隐私预算下为 15.3%;从该起点出发,更换领域带来的提升是更换目标的 2.2 至 3.7 倍。
研究提出 Retell, Reward, Repeat(RRR)强化学习流水线,通过人类标注的叙事均衡阶段与 LLM-as-judge 奖励信号,教 LLM 生成具备因果叙事结构的文本。
GeoMotionGPT 提出一种几何对齐框架,对动作码本与 LLM 嵌入空间同时施加正交性约束,使两者的关系结构自然对应,而非仅靠 token ID 关联。该方法采用带 Gumbel-Softmax 的 decoder-only 量化器实现可微训练与码本均衡使用,并通过稀疏投影将动作码映射进 LLM 嵌入空间,配合两阶段正交正则化调度。
ECLIPTICA 将 LLM 对齐变为指令驱动、运行时可切换:自然语言对齐指令作为显式行为契约,动态调节立场、拒绝边界与详细程度。其 CITA 方法结合 SFT 与对比偏好优化,在 Llama-3.1-8B 上达到 86.7% 指令对齐效率,超过 DPO(56.1%)、GRPO(36.1%)和 PPO(20.4%)。
HERO 是一个分层证据推理优化框架,通过片段级、token 级和补全级三种粒度分别优化推理、诊断和推理依据忠实度,并采用覆盖诊断准确性、推理质量和思考-答案一致性的异构奖励。在 MIMIC-CXR 和 IU-Xray 上,HERO 超越强监督和强化学习基线,达到 SOTA 临床效能,同时生成更多有推理依据支持、思考-答案一致的报告,显著缓解临床幻觉。
PhyAVBench 是首个系统评估 T2AV、I2AV、V2A 模型音频物理 grounding 能力的基准,包含 25.5 小时、11,605 段视频的 PhyAV-Sound-11K 数据集,覆盖 6 个音频物理维度和 41 个细粒度测试点。
研究者提出 Naga,一种受吠陀数学结构概念启发的深度状态空间模型(SSM)编码方法,通过双向处理正向与时间反转序列并经 Hadamard 逐元素交互,增强对远距离时间步依赖的捕捉能力。在 ETTh1、ETTh2、ETTm1、ETTm2、Weather、Traffic、ILI 等长期时间序列预测基准上,Naga 优于 28 个当前 SOTA 模型,且效率较现有深度 SSM 方法更优。
研究者提出免训练开放词汇分割框架 Earth2Ocean,将陆地视觉语言模型迁移至水下领域,无需任何额外水下训练。该工作同时发布首个大规模细粒度水下分割数据集 AquaOV255(255 类、超 2 万张图像)及首个水下开放词汇分割基准 UOVSBench。
ProDER 将智能电网故障类型分类与故障区域定位建模为持续学习问题,在 IEEE 13 节点测试馈线上设计三个类增量与一个域增量场景,平均准确率达 58.2%,比最强对比方法 DPDMR(51.6%)高 6.6 个百分点,仅比联合训练(61.4%)低 3.2 个百分点。
在 NVIDIA A100 上近 1000 次运行四个视觉基准(MNIST、Fashion-MNIST、CIFAR-10、CIFAR-100)的测试显示,去掉反向传播本身并不省电:FF 能耗是 BP 的 4.1x 至 6.3x,CaFo 为 3.0x 至 7.1x。
研究提出基于互信息的确定性启发式方法 Max(MI(S;t)),通过优先预测信息量丰富的目标 token 来组织训练时的目标顺序,在算术推理、多标签文本分类和文本生成任务中常优于标准 NTP 及 reverse order、TF-IDF、条件概率选择等基线。该方法在 GPT 风格模型及预训练 Llama/Qwen 变体上验证,无需改动模型架构或自回归解码。
研究提出免训练、模型无关的批评-精炼框架 PerFine,通过 LLM 生成器与批评 LLM 基于同一用户画像迭代反馈,并用 knockout 策略保留更优草稿。
一项 SoK 研究系统梳理了 272 项 LLM 提示词安全研究,提出越狱攻击、防御与模型漏洞三套多标签分类体系,并发布开源平台 PromptSecurity 及配套数据集 JailbreakDB(445,752 条越狱提示对、1,094,122 条良性提示)和 PromptSecurity-Eval(166,200 条有害查询、9,200 条良性效用记录)。
一项被 TMLR 接收的研究重新审视了尖锐度与模型性能的关系,提出将极小值几何视为依赖函数的性质,而非泛化能力的直接指标。在单目标优化、合成非线性二分类及现代图像分类任务中,研究发现更尖锐的极小值常在权重衰减、数据增强或 SAM 等正则化下出现,并可与更好的泛化、校准、鲁棒性和函数一致性同时发生。作者据此认为,平坦性不应被当作泛化的通用代理,呼吁以函数为中心重新评估极小值几何。
研究者将主动学习的贝叶斯决策论框架扩展至批量场景,为 EPIG 算法推导出部分批次标签采样方法 ParBaLS。实验表明,ParBaLS EPIG 在基于大型预训练模型嵌入的贝叶斯逻辑回归上,于多种数据集和不同预算下均取得更优性能。代码已公开。
研究者对 GPT-4.1 递归抽取的 1 亿条事实知识库 GPTKB v1.5 做了多维分析,发现其事实知识与既有知识库差异显著,准确率明显低于此前 benchmark 所显示的水平。不一致、歧义和幻觉是主要问题,研究据此指出神经符号 AI 在事实知识抽取、整合与验证上的未来方向。
PPGFlowECG 是一个两阶段框架,先用 CardioAlign Encoder 将 PPG 与 ECG 对齐到共享潜在空间,再用潜在整流流合成 ECG,论文形式化分析表明该编码器是稳定且语义一致生成的必要条件。在四个数据集上的实验显示其合成保真度与下游诊断效用均有提升,有望在无法获取标准 ECG 时支持可穿戴设备优先的心血管疾病筛查。该工作已被 IEEE ICDM 2026 接收。
SciRerankBench 是首个专门评估 RAG-LLMs 系统中 reranker 的基准,覆盖五个科学学科。
研究者提出即插即用稀疏化器 TADrop,依据各参数张量的幅度分布、用尺度不变的分数位比率独立确定保留比例,默认无需数据,也可在有小验证集时做轻量模块级校准。
研究者提出物理信息机器学习框架 P-DivGNN,将周期性微结构表示为图并结合消息传递图神经网络,在给定宏观平均应力值下重建微观局部应力场。模型在训练中引入物理约束以约束局部应力场平衡态,并采用周期性图表示施加周期性边界条件。在非线性超弹性情形下,该方法相比有限元仿真实现显著计算加速。
研究者提出 RCStat 统计框架,用随机变量 Relative Contextualization(RC)量化注意力机制中一组 token 对另一组 token 的影响,无需重训练即可在推理时估计。
研究团队构建了 RegressionBug4APR 基准,包含从真实 GitHub 仓库收集的 200 个 Java 和 Python 回归 bug,用于评估自动程序修复(APR)技术。实验显示传统 APR 工具无法修复任何 bug,而基于 LLM 的 APR 方法展现出潜力;将 bug 引入变更信息作为上下文后,成功修复数量提升 1.6 倍,且在 Java 和 Python 基准上结果一致。
GUARD 是一个基于数据归因的大语言模型遗忘框架,通过轻量级代理归因指标量化 Forget 集与 Retain 集的对齐程度,并按指数衰减为样本分配自适应权重,从而缓解遗忘过程中的意外遗忘。
一篇综述梳理了生成式 AI 在自动驾驶中的应用,涵盖静态地图创建、动态场景生成、轨迹预测与车辆运动规划等任务,并对比了 VAE、GAN、生成式 Transformer 与扩散模型的能力与局限。文章还讨论了传统方法与生成方法结合的混合方案、相关数据集,以及安全、可解释性、实时性、训练与基准测试五大核心挑战,并给出图像生成、动态场景生成与规划方面的建议。