MA-JEPA:面向多智能体强化学习的联合嵌入世界模型
MA-JEPA 是一种随机世界模型,用目标表征预测替代观测重建,实现集中训练、分散执行的多智能体强化学习。它通过类别潜状态与因果 Transformer,结合后验与动作条件动力学预测目标训练,并用于潜空间想象下的 actor-critic 学习。在 SMAC 的 8 张评测地图中,有 4 张的平均胜率达到或超过已报告的最强对比方法。
MA-JEPA 是一种随机世界模型,用目标表征预测替代观测重建,实现集中训练、分散执行的多智能体强化学习。它通过类别潜状态与因果 Transformer,结合后验与动作条件动力学预测目标训练,并用于潜空间想象下的 actor-critic 学习。在 SMAC 的 8 张评测地图中,有 4 张的平均胜率达到或超过已报告的最强对比方法。
研究者提出 MemCalib 基准,用于评估 LLM 智能体是否给上下文中的每条记忆分配恰当的影响力,结果显示前沿开源与闭源模型普遍过度使用或使用不足记忆,导致回答有偏、质量偏低。
RoboTalk 是一个合成数据生成管线与数据集,包含 7,950 条多模态轨迹,覆盖 53 个移动操作厨房任务,用于训练小型 VLM 实现机器人间通信与协调。数据集包含 leader-follower 规划协议、工具调用(感知、操作、导航、通信)、推理轨迹和多样化自然语言通信。开源模型微调后在新任务上成功率达 77%,而未微调模型仅约 2%。
HIL-UMI 是一个基于通用操作接口(UMI)的免机器人人在回路 VLA 后训练框架,可在手持演示时查询当前策略而不执行其预测。它用 Energy Score 对比人类动作轨迹与策略推理,在差异指示分布外状态时触发数据采集,并通过在线优势预测筛选关键片段来改进基于进度的优势估计器。
一种无标签的 bias-only TTRL 方法仅优化约 100K 偏置参数、冻结预训练主干,在 MATH-500 上以 Qwen2.5-7B 达到 76.67% 准确率,略超其有标签 bias-steering 复现结果,且参数量比全参数 TTRL 少 76,000 倍。
Salesforce 推出企业级语言模型 Koa,基于开源 Nemotron-3-Super-120B 用 GRPO 强化学习后训练,并以 FP8 部署,专攻智能体工具调用。在 CRMAgentBench 上 Koa 任务成功率达 87%,高于 GPT-4.1 的 82% 和基座的 79%,并在内部生产工具调用基准上保持领先,同时未损失 Tau2Bench、BFCL 等通用能力。
研究发现,在线策略蒸馏(OPD)对训练数据的依赖远低于预期:仅用 8 条真实提示词训练,效果即可媲美 17k 道题。作者据此提出无数据在线策略蒸馏(DF-OPD),用 64 个无种子示例自生成问题即可达到全量数据 OPD 的水平;在多教师场景下,1k 个生成问题可媲美约 7k 条真实后训练样本。
Meddies-PII-Dataset 是一个覆盖 17 种语言、9 类 PII 标签的百万级合成临床文档语料,通过属性条件提示词生成,并经 13 道确定性校验门控保证结构与标注一致性。
MoEMB 通过混合专家(MoE)沿专家轴扩展通用多模态嵌入,在保持单向量、非自回归编码的同时提升编码器容量,仅用 3B 激活参数就在 MMEB-V2 和 MRMR 上超越激活参数超 4 倍的 TTE 类方法,且计算量显著更少。该工作还首次系统研究了 MoE 嵌入的自适应计算,涵盖基于训练与仅推理的多种策略。
研究从网络科学视角评估深度图生成模型与配置模型,比较生成网络与真实网络的拓扑相似性,以及它们在识别有效节点免疫策略以抑制疫情或错误信息传播上的实用性。结果显示,两个深度图生成模型生成的合成网络与真实网络的结构属性高度接近,能够识别出有效的免疫策略。
研究者提出 CPR(Critical-Point Routing),一种在基座模型与其 SFT 专家衍生模型之间做 token 级路由的框架,依据基座模型失败而专家成功的"关键 token"决定是否调用专家。
研究者提出基于动态时间规整的粒度球计算(DTW-GBC),将时间上相似的训练样本组织为粒度球并在粒度层面分类,并开发了两种粒度球构建策略。在四个基准数据集上的对称标签噪声实验显示,两种 DTW-GBC 变体总体缓解了标签噪声导致的性能下降,同时推理时所需比较次数远少于基于 DTW 的 1-NN。
研究者提出 Capability-Driven Multimodal Scaling Law,首个跨模型族框架,用 LLM 文本基准经 PCA 提取的能力分数 S 预测 VLM 基准准确率。
一项研究用 96 个单轮提示(如"说出一种树")测试 105 个语言模型,每个提示每模型问 8 次并按精确匹配计分,结果模型在 46% 的情况下都选了 serendipity。
针对 PPO-Clip 因用欧氏度量衡量策略差异、与策略黎曼流形的内在几何不一致而导致探索崩溃的问题,研究者提出黎曼等距策略优化(RIPO),在黎曼流形上保证等距策略更新,平衡探索与利用并改善偏差-方差权衡。在七个竞赛级基准上,RIPO 显著超越现有 LLM RL 算法,AIME24 上较 GRPO 最高提升 60%。
研究在 LunarLander-v3 上训练的 RSSM 世界模型,其基于世界模型检查点 280 的 A2C 策略在 100 个留出回合上平均回报 +189.5,追平最佳无模型 A2C 检查点(+183.7),但真实训练转移少约 65 倍。作者提出奖励可观测分数(ROF),发现其数值随潜变量缩放变化、跨模型不可比,且无法预测 MPC 的闭环崩溃;筛查的 108 个离线指标均未通过置换检验。
研究者提出 Red Queen Gödel Machine(RQGM),一个在非平稳效用下实现递归自我改进的进化框架,让学习到的评估器与智能体共同进化。在 DeepSWE 上,RQGM 低推理投入下通过 82.1% 的留出任务,优于固定评估器基线的 75.0%,并接近高投入的 GPT-6 Astra。
研究者提出神经共轭聚合模型(NCAM),一种结合神经网络与共轭高斯推断的分层贝叶斯框架,用于无真值标签下的多源传感器数据融合。NCAM 以情境协变量为条件学习各源的偏差与可靠性,通过传感器锚定与方差正则化解决结构不可识别问题,并引入局部自适应蒙特卡洛共形预测给出带覆盖保证的异方差预测区间。在合成与真实空气质量数据集上,其预测精度与不确定性校准优于均值聚合、概率 PCA 和卡尔曼滤波等无监督基线。
针对 GRPO 对所有 token 均匀分配信用、浪费梯度的问题,研究者提出 SC-GRPO(Self-Conditioned GRPO),用模型在自身已验证轨迹条件下的逐 token KL 散度作为 GRPO 梯度的乘性权重,无需过程奖励模型或外部教师。
针对医疗大型视觉语言模型偏好优化粒度过粗的问题,研究者提出 FiRe-MPO(细粒度正则化医疗偏好优化),通过最小编辑模型自身生成构建偏好对,使优选与拒绝回答仅在临床决定性片段上不同,并用双向 token 级 KL 正则器稳定稀疏的片段级奖励。
研究对比微调后的 Wav2Vec2 和 HuBERT 在两种富含搭嘴音的 Khoisan 语言(G|ui 与 West !Xoon)上的表现,发现模型识别搭嘴音的准确率始终高于非搭嘴音,表明自监督学习可泛化到包括罕见音素在内的人类语音。
研究探索用 GRPO 训练语言模型的红队攻击与防御,通过多个 LLM 评判奖励通道并用 GDPO 计算优势以避免单一通道主导。方法采用从攻击方单轮、多轮训练到攻防交替协同训练的课程,产出高迁移性攻击,协同训练的防御方在保持通用效用的同时达到有竞争力的安全性。消融实验识别了影响安全与效用平衡的关键组件,并发现 GRPO 在训练中会削弱攻击方多样性。
研究者提出 LoRi 低秩蒸馏框架,通过一阶和二阶统计量在共享低秩张量子空间中对齐教师与学生的推理轨迹,将推理内化到隐式思维链(iCoT)中。在 LLaMA 和 Qwen 等多个模型家族的数学推理基准上,该方法持续提升性能,在多步难题上接近显式 CoT 准确率,并优于此前的 iCoT 蒸馏方法。
研究者提出一种在预训练蛋白质动力学生成模拟器的生成空间中注入隐式、依赖历史的偏置方法,通过历史感知评分估计器引导逆向采样远离已生成结构,并用基于评分的精修步骤将漂移样本重新投影回数据流形。
研究者提出 MemTrace 框架,将 LLM 记忆流水线转化为可执行的记忆演化图,实现操作级信息流的细粒度追踪,并构建了覆盖 Long-Context、RAG、Mem0、EverMemOS 等记忆系统的 MemTraceBench 基准。
研究团队提出 SourceTracker——一个 300M 参数的代码检索编码器,并搭配两阶段溯源追踪流程 HybridSourceTracker(HST):先用向量搜索缩小候选片段范围,再用 Winnowing 对精确指纹重排序。
研究者提出 World-Ego Model(WEM),将具身视频拆解为「世界」(背景与未被操作物体)和「自我」(机器人与被操作物体)并解耦生成过程,结合角色条件注意力(RCA)的视觉-语言状态预测器与语义路由 MoE(SR-MoE)扩散生成器。
一项研究对六个 EEG 基础模型和一名监督基线在十个数据集上从鲁棒性、可解释性与表达力三个层面展开评估,发现没有单一模型能主导所有失效模式。最抗噪声的模型在通道 dropout 下反而最脆弱,而此前归因于预训练表征质量差的 head-only 性能不佳,很大程度上可由池化策略解释。研究建议未来评估应分别报告各类扰动的鲁棒性、生成归因图并检验多种池化策略。
FeatCal 通过逐层前向校准合并模型权重来缩小特征漂移,采用闭式解更新权重,无需梯度下降或额外模块。在 CLIP-ViT-B/32 Task Arithmetic 上达 85.5%,超过 Surgery 的 77.0% 和 ProbSurgery 的 78.8%;FLAN-T5-base GLUE 上为 85.2%。
研究者提出 SAM 3D Animal,首个可从单张图像对多只动物进行 3D 重建的可提示框架,基于 SMAL+ 参数化动物模型,支持关键点和掩码提示以应对拥挤遮挡场景。团队同时发布含超 5K 图像的多动物 3D 数据集 Herd3D,该方法在 Animal3D、APTv2 和 Animal Kingdom 上取得 SOTA,论文入选 NeurIPS 2026 Oral。
研究者推出 PostEDA-Bench,一个覆盖 DRC-Essential、DRC-Reasoning、PPA-Mono、PPA-Multi 四类共 145 项任务的分层基准,用于评估 LLM 智能体在 EDA 签核后 DRC 修复与 PPA 收敛上的表现。
IAD-Unify 通过任务专用 token 接口统一 MLLM、稠密视觉专家与扩散编辑器,实现工业异常的理解、分割与生成。其多参考 DINOv2 通路将 1,369 个单元压缩为 81 个证据 token 供 Qwen3.5 使用,另有 256-query 接口将 Qwen 状态重采样为 Stable Diffusion 的交叉注意力上下文。
研究提出异构时空图神经网络(HSTGNN)构建虚拟智能热量表,通过专用分支分别学习流量、温度和压力的图结构与时间动态,实现跨变量与空间关联的联合建模。该方法针对供热管网仪表稀疏、传感器故障频发的问题,在稀疏同步数据下显著优于现有基线。团队同时发布 Aalborg 智能水基础设施实验室采集的同步高分辨率数据集,以支持虚拟传感方法的系统比较。
AI Appeals Processor 在纯 CPU 政府环境中部署,对 10,000 条俄语公民申诉做三分类,BERT 在 1,500 条测试集上达 82% 准确率,Word2Vec+LSTM 为 78%,均高于人工操作员的 67%。
针对个性化联邦学习中客户端面临未见任务泛化差与客户端内多任务干扰的问题,研究者提出 FedRouter,一种基于聚类的个性化联邦学习方法,按任务而非按客户端构建专用模型。该方法通过局部与全局两种聚类机制将适配器与特定任务关联,并用评估路由器将测试样本路由到最佳适配器。在多任务数据集上,FedRouter 在任务干扰场景下相对提升最高 6.1%,在泛化评估中相对提升最高 136%。
研究发现,同一语义的系统提示词指令在英语中协同、在西班牙语中却相互竞争,指令拓扑出现反转。对四种语言、四个模型的指令级消融实验显示,这一现象由社会语域介导:将单个指令块改写为陈述句可使跨语言方差降低 81%(p = 0.029,置换检验);改写 11 个祈使块中的 3 个,即可将西班牙语指令拓扑从竞争转为协同,并外溢影响未改写块。
ExecVLA 通过双层动作表示和监督式双层推理 token,将目标导向组件与执行特定组件分离,使 VLA 模型在完成同一任务目标时能遵循指令指定的交互对象、运动模式、空间关系和终止构型等执行约束。该框架引入目标不变性与执行可预测性目标,并在 LIBERO 仿真和 Realman-75 机器人上构建了带目标和细粒度推理标注的数据集。实验显示目标完成度提升,且对指令执行约束的遵循更为可靠。
研究者推出 $OneMillion-Bench($OMB),包含 400 个专家编写的任务,覆盖法律、金融、工业、医疗和自然科学五大领域,用于评估语言智能体在经济相关场景中的表现。
研究者提出 Stitching Noisy Diffusion Thoughts 框架,用掩码扩散语言模型采样多条低成本推理轨迹,经过程奖励模型(PRM)逐步打分后跨轨迹拼接高质量步骤,再重算最终答案。
研究团队提出 HistCAD,一个可执行表示与数据集,其 Academic 和 Industrial 两个集合共包含 180,495 条参数化构建历史,保留实体引用的草图约束与特征操作。