无需训练的策略蒸馏：仅用前向传播融合专家模型
研究者提出无需训练的策略蒸馏（training-free on-policy distillation），仅靠前向传播即可将多个独立微调的专家模型能力聚合为一个模型，平均精度超过任一单一专家。
#数据/训练
arXiv cs.CLAI 评分3232 arXiv cs.AIAI 评分2222 SIEVE：解决等变自监督学习中的拓扑障碍
研究揭示 3D 点云掩码自编码与 SE(3) 等变网络存在理论不兼容，标准掩码会触发拓扑坍缩，迫使模型在无参考系下臆测朝向。为此提出 SIEVE（Scalar Invariant Extraction Via Equivariance）等变自监督框架，通过球形投影掩码保留全局姿态、遮蔽局部语义，将点云几何压缩为不变标量嵌入。
arXiv cs.CLAI 评分2323 EVA-Cap：通过事件中心对齐优化音视频字幕生成
EVA-Cap 框架将音视频字幕分解为原子级视听事件，把非结构化文本监督转化为事件中心对齐，通过 SFT 和 GRPO 在自建数据集 EVA-Data 上训练。GRPO 阶段围绕全局事件完整性、事件内归因和事件间同步三个目标优化。在 ChronusAV 上平均提升 9.0%，WorldSense 上提升 3.3%，论文已被 NeurIPS 2026 接收。
arXiv cs.AIAI 评分2424 面向 LLM 算术推理的 Bellman 一致性轨迹 RL
针对 LLM 算术推理中终端奖励稀疏的问题，研究者提出 Bellman 一致性轨迹 RL 方法 TBRM，将稀疏奖励转化为密集的 token 级信号，并结合 RLOO 分组策略降低 Bellman 残差的梯度方差、用事后目标重标注加速中间学习。
arXiv cs.CLAI 评分2323 双 LLM 共识流程记录 Rett 综合征 Trofinetide 治疗表型
研究者开发了一套双 LLM 共识流程，从 Texas Children's Hospital 108 名患者的 26,763 份临床笔记中提取 18 种 Trofinetide 治疗反应表型。
arXiv cs.AIAI 评分3333 EigDiff：用特征样本扩散将训练数据集缩小最多 14 倍
EigDiff 通过特征样本（eigensamples）在显著更小的数据集上训练扩散模型，训练数据最多减少 14 倍、子集选择加速最多 1607 倍，性能差异微小。该方法在预训练 CLIP 的潜空间中做 PCA 计算潜特征向量，并以特征向量为参考点挑选由 exemplars 与多样图像组成的代表性训练集。
arXiv cs.AIAI 评分3434 如何训练你的小龙：教小语言模型构建与优化 GPU 优化脚本
研究者提出“HOW TO TRAIN YOUR LITTLE DRAGON”训练方法，让 8B 参数小模型直接生成 GPU 优化脚本而非 kernel 代码，并基于 TVM MetaSchedule 在 54,116 个负载上构建 108,594 条训练样本。
arXiv cs.CLAI 评分3030 WEAVE：将真实世界代码演进织入依赖结构化任务，用于代码智能体的基准测试与训练
WEAVE 框架将已验证的 PR 历史转化为可执行、依赖结构化的任务，通过仓库校准的类型化变更位点把相关 PR 组织成有界 DAG 并实例化为统一可执行任务。该框架还提出 Graph Credit，一种确定性的、基于测试的指标，用于衡量依赖一致的部分进展，并为强化学习提供稠密可验证奖励。实验表明 WEAVE 能生成连贯的可执行任务，比扁平评分更忠实地衡量进展，并为代码智能体训练提供有效监督。
arXiv cs.CLAI 评分2424 HeirCommit 与 EvoHeir：自进化语言模型如何选择继承哪一代模型
针对 R-Zero、Agent0、Skill Self-Play 等自进化循环中"任务看似可学却未必带来有效更新"的选择-更新缺口，HeirCommit 冻结更新后的模型并用全新评测题决定是否继承，在相同接受率下将有害更新占比相对随机继承降低 68-83%。EvoHeir 进一步分离参数继承与经验继承，在四个骨干模型上取得最佳数学与通用推理均值，数学均值较最强基线 Agent0 提升 5.3%。
arXiv cs.CLAI 评分2020 P2TPO：面向全页文档解析的结构对齐页面到 token 信用分配
针对全页文档解析中页面级优势无法定位局部错误的问题，研究者提出结构对齐的信用分配框架 P2TPO，通过参考元素对齐、Unified Anchor Pricing（UAP）和 Span Credit Redistribution（SCR）将块级信用细化到 token 级。在六个文档解析基准上，P2TPO 的种子平均分超过所有对比的策略优化基线，并在不同模型规模和初始化下均取得增益。
arXiv cs.CLAI 评分2727 大语言模型查找表的两比特量化：Conditional Program 压缩 n-gram 记忆
研究者提出 Conditional Program（CP），一种只重建输入所请求行的压缩表示，用短码加局部缩放并共享重建程序，以 Gaussian trellis 实例化。其两比特编码相比 2-bit round-to-nearest 将输出 KL 降低 41–63%。在 DeepSeek 上，该方案把表存储从 203GB 降至 51GB，为表常驻 GPU 时留出更大工作负载空间。
arXiv cs.AIAI 评分2424 基于 AI 天气模型的停电预测：预报提前期与抢修队伍部署时机
研究用 GraphCast 和 FourCastNet 两个 AI 天气模型预测美国本土各县 24 至 120 小时后的停电，以队伍部署所在县覆盖的停电负担比例评估预报价值。
arXiv cs.CLAI 评分2020 FIRM：面向联邦 LLM 遗忘的 Fisher 感知保留合并框架
FIRM 是一个单轮联邦 LLM 遗忘服务端聚合框架，利用客户端本地 Fisher 统计量构建 Fisher 归一化基础合并，并对保留敏感参数施加显式控制，以缓解跨客户端聚合导致的幅度爆炸问题。
arXiv cs.AIAI 评分2626 SHRED：无需专家演示的异构道路使用者自博弈框架
SHRED 通过大规模异构自博弈从随机初始化联合训练车辆、行人和骑行者，无需演示数据或轨迹回放。在 Waymo Open Sim Agents Challenge 上，SHRED 同时控制三类道路使用者，超越无演示自博弈基线和依赖演示训练参考策略的先前自博弈方法；仅用 nuPlan 地图几何训练的策略在 Waymo 零样本评测中保持可比真实感。
arXiv cs.AIAI 评分2424 将序列贝叶斯实验设计摊销进推理 LLM
研究将序列贝叶斯实验设计（BED）摊销进 LLM，通过信息增益奖励显式训练引导动作选择的推理过程，实验生成模型独立于 LLM 自身信念。在 Twenty Questions 上，所得策略提升信息获取与任务表现，以显著更低计算成本超越推理时和训练时 BED 基线，并泛化到未见类别。
arXiv cs.CLAI 评分2222 Waypoint-OPD：通过门控同策略蒸馏迁移 RL 引发的策略偏移
Waypoint-OPD 通过引入同一 RL 训练的中间教师检查点，比较早期与晚期策略偏移在动作偏好方向上的一致性，并据此对端点偏移进行门控，方向相悖时予以抑制。该方法仅需额外一次冻结教师打分，在数学与代码推理的六种领域-学生组合中，以 Qwen3-4B 为教师、Qwen3-8B/14B/30B-A3B 为学生，均取得最高领域平均分。Qwen3-8B 消融显示，移除或打乱门控会降低数学推理表现。
arXiv cs.AIAI 评分2222 Optimal Hydra：面向 LLM 微调的模型异构联邦学习框架
Optimal Hydra 是一个基于 Transformer 的模型异构联邦学习框架，专为 LLM 微调设计，结合全局层选择与客户端专属注意力头选择，利用本地数据分布生成客户端专属子网络 Hydra-nets。这是首个面向 LLM 微调的模型异构联邦学习方法，在三个数据集上显著优于基线方法，同时降低了本地资源需求。
arXiv cs.CLAI 评分2222 按梯度范数排序与划分注意力头，实现稀疏持续强化学习微调
研究通过梯度范数对注意力头排序与划分，实现语言模型的稀疏持续强化学习微调。在数学、指令遵循和编码任务上，微调高排名注意力头持续优于低排名头，且常能匹配更密集的基线；注意力头划分则提升旧任务保留能力，同时保持对新任务的适应。
arXiv cs.CLAI 评分2828 ZoomCap：用证据路由视觉缩放实现可恢复的视觉信息迁移
ZoomCap 将细粒度图像描述建模为"可恢复的视觉信息迁移"，通过草稿描述路由条件知识检索、OCR 敏感阅读、覆盖缺口恢复与自适应视觉缩放，仅对最复杂的合格区域分配更深裁剪。
arXiv cs.CLAI 评分2929 PocketTSLM：在智能手机上本地部署的软提示时间序列语言模型
PocketTSLM 将 OpenTSLM SoftPrompt 部署到消费级智能手机，通过把编码后的时间序列窗口作为嵌入向量注入而非文本 token 化，实现完全端侧推理，推理过程中不传输任何健康数据。
arXiv cs.AIAI 评分2222 RICE-Alpha：用事件图与可靠性校准为 LLM 智能体股票预测做修正
RICE-Alpha 是一个 point-in-time 股票打分框架，将历史感知的多视角 Base Alpha 与基于历史事件延续的可靠性校准残差修正分离，通过 Multi-Tier Memory Layer 和 Typed Event Agent 构建事件状态图。
arXiv cs.CLAI 评分3636 TimeCap：面向可穿戴健康时间序列数据的可扩展开源标注流水线
研究团队发布开源确定性标注流水线 TimeCap，无需语言模型参与、直接基于信号生成标注，可通过编写通道定义扩展至新 schema。将其应用于 MyHeart Counts 可穿戴数据集 OpenMHC 后生成 MHCap，覆盖 19 个 Apple HealthKit 通道、908,944 人日共 7,005,763 条标注。
arXiv cs.AIAI 评分2626 让 AI 可信的真相：将表达疑虑、来源溯源与信念修正作为可工程化的立场
研究测试了在固定语言模型上以行为层实现表达不确定性、来源感知断言与显式信念修正，并在合成模型与 Qwen2.5-0.5B-Instruct 上评估。
arXiv cs.CLAI 评分2626 评判评判者：Rubrics as Rewards 中的置信度与分歧
研究提出 RaRE（Rubrics as Rewards with Ensembles），一种面向 RaR 训练的评委集成策略，包含用评委 logprobs 加权高置信评委的 soft-Likert 奖励，以及将高分歧 rollout 排除出 GRPO 更新的 drop-on-disagreement 掩码。
arXiv cs.AIAI 评分6060 MLExpert：面向自主机器学习工程的通用智能体模型
研究提出面向自主长周期机器学习工程优化的后训练方法，并据此训练出 35B MoE 智能体模型 MLExpert。该方法通过 Kaggle-MLE Factory 构建可执行任务与交互环境，用分层智能体 SFT 迁移工具使用和编码能力，并用 Windowed Interaction RL 把相邻实验结果之间的多轮决策作为一个执行窗口赋予共享结果奖励。
arXiv cs.AIAI 评分2222 LangDiT：为连续扩散语言模型设计 Transformer 架构
研究系统性地为连续扩散语言模型（CDLM）设计了专用 Transformer 架构 LangDiT，融合特征与 query-key 归一化、更宽的噪声条件、似然捷径梯度路由与校准、置信度门控训练自条件等技术。
arXiv cs.CLAI 评分2727 INCONVENIENT：评估 LLM 从便利样本中泛化能力的基准
研究者提出 INCONVENIENT 基准，用于评估 LLM 对便利样本偏差的鲁棒性。该基准不依赖自然域划分，而是直接扰动训练分布中的特征—目标关系，同时保留原始总体分布作为部署环境，并显式控制关系偏移的方向与强度。基准包含 200 个表格分类与回归数据集，生成约 15,500 个偏移训练分布，导致下游性能显著下降。
arXiv cs.CLAI 评分2626 VELD-QA：面向长文档视觉证据定位与问答的大规模数据集
研究者发布 VELD-QA，一个面向长文档视觉证据定位与问答的大规模基准，包含 15,000 个人工编写问答对，覆盖 5,859 份真实 PDF、共 372,445 页，均衡涵盖图表、表格与复杂版式任务。
arXiv cs.AIAI 评分3131 EliteReplay：通过质量-多样性搜索在 RL 后训练中保留多样化解法
EliteReplay 是一种将 GRPO 与质量-多样性搜索构建的"精英"存档配对的 LLM 后训练方法，训练前用冻结基座模型收集不同解法的样本，训练中结合存档上的 replay loss。
arXiv cs.AIAI 评分2222 X-RIC：面向强化学习的智能体化 RAN 智能控制器基准
研究提出 X-RIC 框架，将智能体 AI 引入 O-RAN 架构，把反应式强化学习与智能体推理结合，包含基于领域启发式的自动行为克隆、提供上下文抽象与可解释性的 Telecom Language Model（TLM），以及在 Near-RT RIC 控制环内的闭环协同自适应。
arXiv cs.CLAI 评分2929 错误投票，正确梯度：多数投票奖励为何能追踪可验证 RL
研究指出，自生成标签的多数投票奖励之所以能追踪可验证奖励，关键在于批次级更新而非提示词级正确性：参数共享使单个提示词的梯度在实际批次规模下对该提示词输出的贡献不足 1%，错误标签只有在跨提示词方向一致时才有影响。
arXiv cs.CLAI 评分2323 CogDrift-4D：面向 MCI 检测的时间行为衰退分层多模态建模
CogDrift-4D 是一个分层 4D Transformer 框架，用于轻度认知障碍（MCI）检测，在结构化言语与语言交互评测中取得 0.733±0.13 的分类准确率和 0.716±0.14 的 F1 分数，优于先进基线。
arXiv cs.AIAI 评分1616 GNN 引导局部精修：面向 DSA-MP 的高效版图分解方法
研究提出一种新的冲突图模型，将此前被忽略的 DSA 模板边到边间距约束纳入其中，并用图神经网络驱动的局部精修策略实现高效可扩展的版图分解。实验显示该方法相比 SOTA 方法解质量更高、收敛更快，并在不同版图规模、设计风格、工艺节点和掩模数量下保持稳健。该工作已被 ICCAD 2026 接收。
arXiv cs.CLAI 评分2424 Gibbs-Gap Policy Optimization：面向可验证奖励离线强化学习的 GGPO 方法
研究提出 Gibbs-Gap Policy Optimization（GGPO），通过对同一提示词下各回复的 KL 调整奖励做 log-mean-exp 对比来优化策略，无需 learner-to-behavior 重要性权重。
arXiv cs.AIAI 评分3434 AutoSFT：面向监督微调自动化数据研究的多智能体系统
AutoSFT 是一个多智能体系统，用于自动化监督微调（SFT）中的数据研究。它通过元智能体将执行与分析分离，从独立角度收集提案，并调用合成子智能体补充数据池无法覆盖的能力。相比单智能体仅能调整类别比例，其分析子智能体将最佳 IFEval 提升 +6.5，合成再增 +3.4 IFEval 和 +2.9 IFBench，代码任务上分析带来 +3.7 MBPP+。
arXiv cs.AIAI 评分2323 Terminal-RSI：通过递归自改写与策略精炼实现递归自我改进的终端智能体
Terminal-RSI 通过交替进行已验证轨迹的递归自改写（RSR）与继承评论家的递归策略精炼（RPR），从 Qwen3.8-27B 基座模型经五阶段训练得到 Terminal-RSI-27B。
arXiv cs.CLAI 评分2727 TurboMamba：用词法记忆实现更快推理、更快训练与更优预测
TurboMamba 是一种语言模型架构，由每完成一个 token 块运行一次的全局 Mamba-3 模型与一个小型 Transformer 组成，后者结合全局上下文和块内前序 token 预测下一个 token。
arXiv cs.CLAI 评分3636 训练推理模型生成多样化科学创意
研究提出用集合级强化学习目标训练 LLM 生成多样化科学创意：模型一次生成 K 张结构化创意卡片，每张创意的质量按其与前面创意的距离加权，从而学会让新创意远离已有创意。
arXiv cs.AIAI 评分2727 Shared Residual Distillation：让语言模型从无验证的同侪解答中学习
研究者提出 Shared Residual Distillation（SRD），一种 on-policy 自蒸馏方法，让模型直接从自身未经正确性验证的同侪轨迹中学习，通过对比同侪相对对照组对预测分布的调整，保留方向一致且幅度保守的修正。
arXiv cs.CLAI 评分2929 预训练表示中线性可读的知识更易在微调后泛化
研究区分了语言模型中的"活跃事实"与"惰性事实"：前者支持超出自身回忆的泛化，后者只能被回忆。在11个语言模型和70个关系上，原始关系在预训练表示中的线性可读程度强烈预测微调后的泛化能力，关系间相关系数达 Pearson r = 0.87 至 0.92，且该关联在控制微调样本数、答案数、原关系准确率及预训练词频后依然成立。