微软研究院发布 StudentSim:用 AI 学生模拟器替真人试课,优化 AI 导师
微软研究院发布研究系统 StudentSim,基于公开去标识化的学习者记录为每位学生训练个性化“AI 学生模拟器”,模拟其独立作答及收到讲解后的反应变化。该系统采用两阶段训练,覆盖国际象棋、第二语言英语写作和数学三类任务,并推出 StudentSimEval 评测基准。
微软研究院发布研究系统 StudentSim,基于公开去标识化的学习者记录为每位学生训练个性化“AI 学生模拟器”,模拟其独立作答及收到讲解后的反应变化。该系统采用两阶段训练,覆盖国际象棋、第二语言英语写作和数学三类任务,并推出 StudentSimEval 评测基准。
微软团队本周在 Nature 发表新研究,展示机器学习可改进传统上极难预测的 2 到 6 周中期天气预报,有望用于应对极端天气、管理自然资源和农业决策。Satya Nadella 称,未来不只要构建更强的模型,还要构建能学习模型系统性错误、推理因果并持续对照现实校准预测的智能校验系统。
Mercor 发布 Labor Index 的 Benchmark Map,将 29 个基准的提示词映射到美国劳工部 O*NET 的 923 个职业和 18797 项任务上,发现 923 个职业中只有 208 个有任务被至少 5 条基准提示词覆盖,22 个职业族中有 6 个完全没有此类职业,据此估计 90% 的美国工作时间花在现有基准几乎未覆盖的任务上。
研究者提出 HP-RLVR,一种单轨迹 RLVR 方法,利用已完成轨迹的未来信息生成 token 级更新权重,无需参考解或学习型 critic。在 Qwen3-8B 上,其数学、代码生成和 ALFWorld 训练速度分别为 GRPO 的 1.21×、1.46× 和 2.30×,每 prompt 采样量仅为后者的八分之一。
研究者提出 RAMSAD,一种基于检索的模型选择框架,用于时间序列异常检测:给定新序列,它从历史实例知识库中检索 top-k 最相似序列,并迁移其性能画像中的检测器推荐。该方法在分布内(ID)设置下优于现有基线,在分布外(OOD)场景中最为稳健,仅选取少量检测器即可匹敌或超越运行全部检测器的集成方案,成本仅为后者一小部分。
D-DOIT 是一种面向离散扩散模型的免训练适配方法,通过 Doob's h-transform 对反向转移概率重新加权,仅需奖励值而非奖励梯度。它无需昂贵的未来 rollout,在每步采样候选状态并用奖励 oracle 重采样,可选的后期 best-of-K 精修进一步降低开销。在调控 DNA 设计和蛋白质逆折叠基准上,D-DOIT 优于免训练引导基线,并在蛋白质逆折叠中取得最高成功率。
研究者提出 KV-streams,一种与任意压缩策略兼容的即插即用方法,通过将 KV cache 向前流式传递而非每次压缩后清空,在三种压缩策略下实现 2.6 至 5 倍的训练墙钟加速。流式 KV cache 还可充当循环状态,携带已从上下文中消失的信息,且仅靠 RL 即可让该行为涌现。
研究者提出 Training-Free Task Vectors(TFTVs),无需微调即可计算类任务向量方向,仅用前向传播统计将激活引导向量映射为秩一权重空间编辑,并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上,TFTVs 能持续放大、抑制和组合目标行为,同时保留通用知识与解题能力,相比其他编辑与引导基线实现了更强的特质控制与更优或相当的效用保持。代码已在项目网站公开。
研究者提出 Power-Law Entropy Search(PLES),一种基于多保真度贝叶斯优化的计算成本感知采集函数,通过自适应实验高效估计最优超参数缩放律。
INTERVenE 是一族以知识驱动时间抽象(KBTA)为输入的 Transformer 架构,用命名临床概念(状态、趋势、事件、上下文)的 token 流替代原始测量三元组,使逐 token 归因可直接对应临床概念。
研究者提出 ICON(Independent Canonical cONcepts),将捷径审计重构为对中间表示方差的分解,量化每个概念在控制其他概念与结果后对某层方差的贡献,并报告未被解释的方差。在含真实标签的模拟数据中,ICON 比七个基线更准确地还原概念重要性;在皮肤癌与神经影像应用中,它能区分已学到的捷径与仅相关的概念,并经独立验证确认。
一项研究通过 Reddit 讨论、21 位从业者访谈(含 8 位工具开发者)和 SpecMine 语料库(73,030 个 GitHub 仓库的 470,795 个 spec 文件)考察了规范驱动开发(SDD)的实际使用情况。
ValueFormer 是一个策略无关的因果 Transformer(3.5M 参数),基于冻结的 DINOv3 骨干,单次前向即可输出平滑的蒙特卡洛价值与尖锐的二值价值两路逐帧信号。
研究者提出"先补齐再进阶"(FBA)的能力缺口驱动后训练路线,先发展前置能力再做场景适配,并构建覆盖 RGB、SAR、PAN、NIR 的三层数据集 CPRS 与八轨基准 HarborEval。
研究者提出视觉对比自蒸馏(VCSD),将图像内容擦除转化为 on-policy 自蒸馏信号:EMA 教师在同一提示词和前缀下分别基于原图与内容擦除对照生成两个 next-token 分布,用其逐 token 对数概率差锐化教师分布并蒸馏给学生。
BeatEdit 是首个基于显式编辑操作的符号音乐生成框架,把生成重构为在草稿上编辑而非从零合成。它沿编辑密度递增轴整合了逐 token 序列标注纠错、迭代精修伴奏编辑和 tag-then-fill 片段补全三种机制,共享同一编码与预训练骨干,在三项任务上精度与感知质量均超过自回归和扩散方法,单次推理耗时不到 100 ms。
该研究提出 AirPASS,一个面向配备多波导 Pinching 天线系统(PASS)接入点的空中联邦学习(AirFL)交替优化框架,在聚合失真低于预设阈值的前提下最大化被选中设备数量。
研究提出 Play2Perfect,一个通过多样化物体与目标上的"玩耍"进行任务无关预训练的 RL 框架,再微调适配精密装配。该先验比从零 RL 训练的样本效率高 33 倍,即使后者提供密集多阶段奖励。方法实现零样本 sim-to-real 迁移,在 0.5 mm 接触间隙的紧密插入任务上成功率达 60%,长时程多部件装配和拧螺丝成功率超 50%。
研究提出将 LLM 剪枝校准视为"能力覆盖"问题:在 60% 稀疏度下,平均常识准确率仅差 2.85 分的策略在代码保留率上相差 51.9 分,且 15 个数据源中无一能保留全部能力。
研究者提出持续学习框架 CRAFT,冻结 LLM 权重,改为在隐藏表示上学习低秩干预。相似任务共享同一干预以促进知识迁移,任务相似度由各任务对模型输出分布的改变程度判定;共享干预内用 KL 惩罚约束新任务贴近既有行为以限制遗忘,最深层的小型任务私有干预则保留后续任务无法覆盖的专属容量。在多个基准和模型规模上,CRAFT 整体表现优于强 LoRA 方法并减少遗忘,且对任务顺序保持稳健。
一项针对 LLM 隐私的消融研究统一评估了成员推理(MIA)、属性推理(AIA)、数据提取(DEA)和后门攻击(BA)四类代表性攻击,发现各自敏感因素不同:MIA 强依赖数据集特征与攻击策略,AIA 受模型与训练特征影响,DEA 随模型规模和训练数据重复度上升,BA 则始终保持高成功率。
TensorDex 是一个无损、以张量为中心的存储系统,在张量粒度上做 delta 压缩,用紧凑的位级指纹预测张量对的可压缩性,并将张量增量组织成多中心聚类以选取有效基模型。
研究者提出 LLM 原生标记语言 LLMON(LLM Object Notation),用于向 LLM 传递文本的结构与语义元数据,可应用于模型训练、提示和推理实现,以提升模型准确性、安全性与安全性。该工作讨论了 LLM 原生标记语言的设计要求,并给出 LLMON 在训练与推理两类用例上的初步实证证据。
一项研究比较了词汇非覆盖度、冻结编码器相似度统计、难度代理等信号,在 BM25、稠密、LLM 生成及混合来源的 MS MARCO 训练数据上对稠密检索器迁移的追踪能力。在三个检索器骨干和十一个 BEIR 数据集上,IDF 加权的平均词汇残差性复现了全部六组骨干与设置块的迁移排序,而语义统计量均无法恢复完整排序,与词汇信号结合也未提升排序一致性。
研究者提出 RMBench,一个包含 9 个操作任务的仿真基准,覆盖多个记忆复杂度层级,用于系统评估机器人操作策略的记忆能力。同时提出模块化策略 Mem-0,通过显式记忆组件支持受控消融实验,并在仿真与真实世界实验中揭示了现有策略的记忆局限及架构设计对记忆表现的影响。
ReText 通过微调 VLM 为多摄像头数据集补充文本描述,并以文本监督训练,在跨域行人重识别基准上显著超越 SOTA。该方法联合优化 Re-ID、图文匹配和文本引导的图像重建三项任务,并采用单摄像头数据训练策略,同时利用其附带的文本标注。扩展后的数据集与 VLM 权重已公开,成果被 WACV 2027 接收。
研究者提出 Product Interactions 代数形式化方法,将乘法而非线性变换作为架构的基本操作,统一了卷积、注意力、状态空间和等变模型。该框架将卷积和等变网络推导为对称约束的一阶乘积交互,把 Mamba 恢复为自交互阶从一增至三,并将注意力确立为三阶交互。基于此构建的简化代数动力学层在 CIFAR-10 上同时提升了准确率和吞吐量,优于 Mamba。
一篇综述提出"以影像为锚点"的视角,将超声心动图、CMR 和 CT 定义的心脏空间表型,与 bulk、单细胞和空间转录组学提供的细胞类型及位置分子信息相连接。文章定义了各模态的表示需求,比较多模态融合策略,并梳理了放射基因组学、空间对齐和基于影像的基因表达预测的整合流程及其验证要求与失效模式。
研究表明,科学性能反馈可将生成模型学到的搜索分布导向训练惯例之外的高产区域,且无需显式奖励对惯例的偏离。在反应堆栅格设计与化学反应条件选择两项任务中,适配均提升了科学性能,并增加了被监督数据排除的选项生成;实测反应中,被训练排除的任务专属配体选择概率从 0.29 升至 0.70-0.71,同时预期产率误差下降。
研究者提出多任务神经扩散过程(MT-NDPs),通过引入任务编码器从上下文观测中提取低维表示,使扩散模型具备任务条件化的概率回归与少样本适应能力,并保持对上下文观测顺序的置换不变性。
M-Diffusion Planner 通过双解耦设计实现个性化自动驾驶:大语言模型推断驾驶需求并选择策略,由共享扩散规划器的对应头执行。研究采用代理策略比率估计与约束式头特定更新改进 Group Relative Policy Optimization,在无风格标注下用策略专属奖励微调各头。nuPlan 开环与闭环评测显示其具备策略对齐行为与有竞争力的规划性能。
PanoDiff-SR 提出一套两阶段端到端流程,先用扩散模型 PanoDiff 生成 256×128 低分辨率全景 X 光片种子,再由微调的 HAT 超分辨率阶段放大至 1024×512 诊断级分辨率,可在单张 47 GB GPU 上完成。
针对时间切分图下的域适应问题,研究者提出对称时间平均消息传递算子 STAMP,用跨时间戳平衡的消息传播替代标准邻域聚合,强制时间域间一阶矩不变。其异构变体 STAMP-mag 在 ogbn-mag 上取得 SOTA,STAMP 在 ogbn-arxiv 上取得 SOTA,并在时间切分 Pokec 上持续提升原数据集 SOTA 模型的表现。
CoPE 通过在多步动作序列上增加预测性监督,让语言智能体的行动与预测能力在共享骨干网络中协同进化,推理时仍逐步行动、无额外开销。
研究提出有界陈旧度异步进化策略(bounded-staleness asynchronous ES),在 WebShop 上系统改变策略滞后程度与陈旧适应度测量比例,并设计两项压力测试探测极端陈旧情形。结果显示自然异步几乎与同步 ES 表现持平,即便全部适应度测量均陈旧,评估精度下降仍很小,表明 ES 无需显式离策略校正即可容忍显著策略陈旧,支持其用于长程 LLM 智能体的异步后训练。
研究提出"视频-时间先验"——即每条视频每秒训练标签的平滑中位数,并将其与基于图的 EEG 和 fNIRS 信号模型以固定融合权重结合,用于预测新观众观看训练集中已出现视频时的情绪评分。
研究者推出 CompMat-Bench,一个源自近期计算材料研究、包含 94 项任务的 AI 智能体基准,通过预先复现研究步骤来评估智能体准备输入与分析输出的能力,从而避免评测时运行昂贵模拟。基于三个 LLM 的智能体在单任务完整指导下通过率为 66.0-90.4%,更长工作流与减少指导会以不同方式限制不同智能体表现,失败多归因于科学错误而非软件使用错误。
针对现有模型溯源方法依赖对称相似度、无法判断两个 checkpoint 谁先谁后的问题,研究者提出 Witness Overlap——一种无需提示词、无需训练的白盒方向性溯源测试,通过引入同家族第三个 checkpoint 作为"见证"比较两端几何结构来推断方向。
研究提出 MedTraj 框架,将医疗 AI 智能体的推理轨迹作为构建、评估与优化对象,把多步临床推理链解析为临床观察、证据、编号推理步骤与结论,并从连贯性、证据支持、幻觉、完整性、可追溯性五个维度打分。
研究提出 Prior-Guided Tuning(PGT)方法,其实现 Contrastive Prior Steering(CPS)在保留监督目标的同时加入正负先验条件损失,方向相反地优化。