用大语言模型发现最先进的量子电路
研究者提出一个进化框架,由 LLM 提出量子电路设计、独立评估器负责验证与打分,并在数值计算、化学、优化、量子模拟和数论等任务上测试。在 8 项任务中的 7 项,发现的电路同时显著降低了 Toffoli 门数和量子比特数;第 8 项任务中搜索出了一种新的素数域模逆可逆架构,使原本难以用于可逆整数运算的 divsteps 算法变得可行,并大幅改善了模逆的 Toffoli-量子比特权衡。
研究者提出一个进化框架,由 LLM 提出量子电路设计、独立评估器负责验证与打分,并在数值计算、化学、优化、量子模拟和数论等任务上测试。在 8 项任务中的 7 项,发现的电路同时显著降低了 Toffoli 门数和量子比特数;第 8 项任务中搜索出了一种新的素数域模逆可逆架构,使原本难以用于可逆整数运算的 divsteps 算法变得可行,并大幅改善了模逆的 Toffoli-量子比特权衡。
研究者提出轻量适配框架 Resolving Interference(RI),通过将各专家模型解耦为与其他任务空间功能正交,降低模型合并中的跨任务干扰。RI 仅需无标注辅助数据即可应用,在数据稀缺场景下也能使用,将 SOTA 合并方法性能最高提升 3.8%,对未见域泛化最高提升 2.3%。该方法对辅助输入来源稳健,且对合并超参数调优的敏感度显著更低。
T2-Z 通过为机器人世界模型附加可学习的环境隐变量,在测试时冻结世界模型、仅用一次或多次交互轨迹优化该隐变量,从而适应未见过的环境配置。在 7 个模拟设置和 4 项真实机器人任务中,物体预测误差指标从 15.20 降至 7.00,动作成功率从 33.73% 提升至 72.96%。消融实验显示,T2-Z 仅凭单条测试时交互轨迹即可高效推断环境隐变量。
研究系统考察了部分 RoPE(仅对一部分隐藏维度施加旋转位置编码)对 Transformer 训练动态与收敛的影响,发现仅对约 10% 维度应用 RoPE 即可达到与完整 RoPE 相当的收敛效果,同时相比标准 RoPE 缓存最多节省 10× 内存。
CoDA 让仿真数据引擎与动作策略通过共享异构记忆协同演化,记忆将视觉语言评论模型验证的诊断编译为生成程序与训练程序。其 Text2potential 把诊断转为分阶段势函数,为动作块价值学习提供稠密监督。
研究者提出 CE-RAG4EM 框架,通过基于分块的批量检索与生成,降低 LLM 实体匹配中 RAG 的端到端开销。在九个真实实体匹配基准数据集上,该框架在零样本设置下取得相当或更优的匹配质量,并在属性模糊或数值稀疏的数据集上显著提升 F1 分数。分析还揭示了分块批量大小与检索粒度上的性能-开销权衡。
研究指出现代 MoE 架构中细粒度专家分割与共享专家之间存在"探索困境":共享专家降低了 token 表示的多样性,削弱路由探索,而细粒度分割又因组合爆炸式扩大的路由空间更需要探索,导致其表达能力难以充分释放。为此提出的 MirrorMoE 通过 token 自适应抑制冗余专家来缩小探索空间,在不同模型规模上均稳定提升性能。
AlignSAE 通过“先预训练、后后训练”的两阶段方法,将稀疏自编码器(SAE)特征与预定义本体对齐,在 GPT-2 上实现精确因果干预,1-hop 概念替换成功率达 94.8%。其解耦效果较标准 SAE 提升 9 至 ∞ 倍(以互信息差衡量),并支持多跳推理与类 grokking 泛化动态的机制探针分析。该方法与模型无关,已发表于 TMLR。
研究者提出 MIDA——一个包含同步视频与文本、每条陈述均有可验证真值标签的多模态数据集,用于评估 MLLMs 在多方社交互动中的欺骗识别能力。对 12 个开源与闭源 MLLMs 的基准测试显示,即便 GPT-4o 也难以可靠区分真实与欺骗性陈述。
GeoState 是一种视角解耦的几何表示,用于预测式 3D 世界建模,将场景状态演化与相机相关观测分离。它通过场景 tokenizer 将多视角 GFM 特征聚合为视角解耦的场景状态,由几何解码器用相机射线查询,自回归世界模型预测未来场景状态,相机运动单独建模。
研究者提出 Thinking-Free Policy Initialization(TFPI),通过 ThinkingFree 操作直接丢弃思考内容,衔接长 CoT 蒸馏与标准 RLVR,降低推理 token 消耗。
研究者推出 3DCodeVerse 研究生态,让编码智能体大规模生成可编辑、可验证的 3D 内容,包含 3DCodeVerse-2M 大规模可执行 3D 代码数据集、基于多智能体有向无环图的 3DCodeVerse Harness 生成与优化框架,以及系统性 3D 编码实证研究。
研究发现,LLM 生成文本呈现更平滑的高频 Zipf 斜率、更陡峭的低频斜率和更高的词项特异性,文档级多样性也更强。基于词项的检索模型并不存在固有的来源偏见,而是优先返回词项分布与查询更接近的文档。该工作为理解和应对混合来源内容下基于词项的 IR 系统潜在偏见提供了基础。
机器人框架 DSP 通过行为克隆从数分钟人类玩耍数据中学习玩耍策略,再自主部署收集数小时交互数据训练世界模型,推理时由该策略为 MPC 提出候选动作序列。团队还提出在世界模型内通过自博弈蒸馏闭环目标条件策略的方法。真实世界实验中,该方法成功率比 hindsight 行为克隆高 69.6%,并以少 490 倍的交互数据达到与强化学习相当的成功率。
SaraCoder 是一个在固定上下文预算下通过分层上下文剪枝提升知识密度的检索增强框架,其 Hierarchical Feature Optimization 模块分四阶段剪枝过完备候选池,再将释放的 token 分配给 External-Aware Identifier Disambiguator,选择性注入最必要的跨文件依赖定义。
ACEdit 提出一种训练方案,让图像编辑模型在多轮编辑中保持稳定:训练时强制编辑器处理自己前几轮的输出,把 Self-Forcing 引入图像编辑。由于自生成轨迹偏离真值、直接监督不可靠,该方法用蒸馏目标让教师编辑器提供可靠信号,并采用非对称条件化——学生基于自身输出顺序编辑,教师始终锚定原始干净图像并接收复合编辑指令。实验显示长多轮序列中的质量退化显著降低,同时保持编辑质量与指令遵循。
CellForge 是一支由自主智能体组成的团队,可端到端完成单细胞扰动建模:从文献调研、数据解析到生成模型假设、编写训练代码并跑实验,最终返回含架构、代码与验证结果的预测器,全程无需人工指定设计、损失或训练协议。
一个融合面部表情、语音、转录文本与肢体动作的多模态情感识别系统在52名参与者的远程用户研究中达到96.43%的准确率,显著高于任一单模态组件(p < 10⁻⁴),且各情绪状态识别率均不低于92.31%。相比之下,单模态模型在真实条件下准确率降至82.97%–87.64%,部分情绪状态识别率低至48.08%,表明基准测试的高性能难以迁移到实际使用场景。
针对联合音视频生成模型出现的多事件组合、多层音频混合与非对称跨模态关系,研究者提出以事件为中心的一致性评估框架,在事件层面解耦音视频并跨模态交叉验证,聚合成粗到细的三级一致性指标。
研究者提出子空间微调(SST),将每次权重更新限制在底部奇异子空间,消除主方向上的变化,从而缓解 LLM 持续学习中的灾难性遗忘。SST 与优化器无关,可兼容 SFT 和自蒸馏,保护多达 99% 的权重子空间仍能保持目标任务的强劲表现,且该效果随模型与数据规模增大而增强,在大模型场景下几乎消除遗忘。相比基线方法,SST 的 KL 漂移减少 2–4 倍,推进了学习—遗忘的帕累托前沿。
针对人类示教只能覆盖部分任务特征、导致奖励欠指定的问题,研究者提出把纠错负担从人转移到机器人:利用示教数据中暴露的监督薄弱特征构建先验,将偏好查询定向到这些特征,并为每次查询附上解释以聚焦人类注意力。仿真中该先验在低查询量场景下比标准主动偏好学习基线最高提升 30.8%,用户研究显示先验与解释各自显著改善奖励恢复且相互放大。该工作已被 CoRL 2026 接收。
OS-Helix 是一个端到端训练的多模态计算机使用智能体,把 GUI 操作与代码执行统一到同一个动作空间。作者通过应用与文件产物配对构建可执行 Ubuntu 状态,并用解耦的指令与评估器生成流程产出可验证任务,先以 SFT 冷启动、再在真实桌面环境中做在线 RL,并提出按动作步聚合重要性权重的 Step-balanced GSPO。
研究者提出 SCOPED(技能解耦同策略专家蒸馏),通过训练能力专属专家并经奖励引导反思提取显式技能,在同策略蒸馏中仅用技能监督专家、不向统一学生模型暴露技能,使其在推理时内化过程性知识。在八个多模态基准上,SCOPED 持续优于骨干模型与混合能力 RL。分析显示技能增强可提升专家轨迹一致性、对任务相关视觉证据的关注度,并更好保留统一学生模型的专项能力。代码与数据已公开。
TRACE 是一种拓扑感知、预测自适应的分割目标函数,利用目标骨架定义所需局部连接,并为每个连接在当前预测下寻找最易实现的有效重连,将其瓶颈与对应骨架点联合监督。该方法还引入拓扑感知骨架载体,同时保留前景与类别特定拓扑。在六个 2D 和 3D 基准上,TRACE 在保持较强分割精度的同时改善了连通性与拓扑,训练开销较低。
研究提出全身灵巧操作框架 WBD,将机器人躯干与四肢作为接触面来抓取和操作物体,通过 sim-to-real 流程生成全身抓取数据集、训练强化学习专家并蒸馏为单一策略。
研究者提出一种基于 LUPI 范式的运动与重力感知框架,训练时以残差光流和重力方向作为特权信号引导几何表征学习,推理时仅用标准视觉输入,保持前馈效率。在标准基准上,该方法在含动态物体、结构模糊和复杂相机运动的场景中提升了重建精度与鲁棒性。分析显示最优注入阶段因骨干而异:VGGT 适合中层注入,π3 更适合后期注入。
研究者提出一种直接从语音中检测语码转换(CS)的轻量方法,利用预训练语音编码器帧级的语言选择性隐藏状态维度,聚合激活值来预测一句话中是否同时出现两种语言。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器取得平均 F1 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。
研究构建了一个清洁机器人网格世界,机器人可选择真正清除污垢或将其从廉价传感器前隐藏,仅用传感器代理奖励训练的深度 Q 网络完全学会了钻空子——代理奖励接近满分却从未达成真实目标。作者引入约束强化学习,惩罚利用代理与真实目标差距的具体行为,最终策略消除了博弈行为并大幅恢复真实目标表现。研究还推导并验证了一个精确核算恒等式,证明成本信号精确度量了代理与真实目标的差距,在硬约束变体下可提供确定性保证。
研究者从周期性 XXZ 链构造出坐标 Bethe-Ansatz 概率律,并与相同一、二位点矩下的最大熵成对投影对比。在八位点三激发扇区中,对称性使全概率律差异降为一维,由连续三位点矩 δ 决定,该差异在 Δ=(3+√3)/2 处变号并恰好消失。
研究者提出因果积分梯度(CIG)与因果期望梯度(CEG),将输入特征间的先验因果结构嵌入积分路径,在保持计算效率的同时把特征归因分解为直接效应与经因果后代的间接效应。
研究在 Qwen3.8-27B 上区分了自我索引与自我指涉两个功能层级:将同一文本分别置于 Assistant、User、System 消息中,模型在全部 64 层、所有测试文本上都能沿共享方向区分自身消息与外部来源。
研究者提出 TIPS,一个约 600K 参数的推理时控制器,让 LLaDA-8B-Instruct 在解码时同时学习取消掩码与重新掩码,而底层语言模型保持冻结。
研究者构建 HomogeneityNLI 诊断数据集(1,000 个最小对,覆盖 10 种逻辑条件),评测 7 个开放权重模型,发现普遍存在 Bivalence Bias:零样本下无模型能在超过 15% 的场景中同时识别两种极性的真值间隙,否定式复数定指在 84% 的情况下被判定为 False。
研究者提出流式记忆框架 MaLoW,用循环 HyperNetwork 将视频观测增量固化为固定大小的 LoRA 权重,让历史以权重形式延续、当前观测仍作为输入,避免历史与当前画面争夺上下文。
NOEMA 是一种时间卷积解码器,将连续 fMRI 测量窗口与同一刺激片段的文本、音频、语音多模态嵌入对齐,实现直接从脑活动检索语音片段。在 Cephalonauts One 和 LeBel 两个自然语音数据集上,超过 42% 的留出查询能在 2000 个候选中将正确片段检索进前 10,显著优于基线解码器,且候选池加入数千个训练中未出现的干扰项后优势依然保持。
DemoStream 是一个通过优化示教质量来提升行为克隆成功率的 TAMP 系统,引入批量 TAMP 采样操作与批量约束满足算法以并行探索大量解。仿真实验消融了不同动作空间、代价函数和批量大小对下游策略成功率的影响,并利用 TAMP 的安全保证以平均每小时 66 条示教的速度直接采集真实世界示教数据。
研究者用低秩适配器和分类头微调 Qwen3-4B-Base,用于证据推断任务,判断试验结果是显著增加、显著减少还是无显著差异。该模型仅用 2,657 篇训练文章中 1,431 篇 CC BY、CC0 或公有领域文章微调,以 Apache License 2.0 发布并可在笔记本上运行。
GraphBEAT 是一个时序图表示学习框架,将临床事件按时间分桶并转化为患者特异性时序有向图,用于胃肠道癌症早期风险分层。在多站点纵向诊断编码与实验室检测数据上预测胰腺癌、肝癌和肠癌的 12、24、36 个月提前诊断,GraphBEAT 全面优于 GraphSAGE、GAT、GCN 及 Transformer、LSTM 基线。
针对块扩散语言模型(BDLM)在线策略蒸馏(OPD)在大块尺寸下训练不稳定的问题,研究者提出无偏蒸馏框架 Un-OPD,通过边界感知步过滤消除师生块边界不匹配导致的上下文错位,并用支持度重平衡的置信度校准抑制高支持位置的过度自信崩溃。该框架还引入 rollout 复用机制降低生成开销,在数学推理与代码生成基准上稳定训练并将实际训练时间缩短约一半。
研究追踪了在 11 种真实 Deepfake 生成方法的时间序列上渐进训练的检测器,发现准确率下降通常会加剧不公平性,而公平性随时间改善的情况很少。在 rehearsal、prompts、正则化三类持续学习方法中,不公平的遗忘无法仅用数据代表性不足解释,可能与表征学习纠缠。作者呼吁持续学习方法在平衡稳定性与可塑性时纳入社会结果考量。