SATResetCoP:不回退低效 tableau,加速积累 ground 子句以提升定理证明器性能
SATResetCoP 通过不再回退无产出的 tableau、转而开启新 tableau 为 SAT 求解器生成更多 ground 子句,在 TPTP 上较 leanCoP 风格基线提升 54%、较 SATCoP 风格基线提升 18%。
SATResetCoP 通过不再回退无产出的 tableau、转而开启新 tableau 为 SAT 求解器生成更多 ground 子句,在 TPTP 上较 leanCoP 风格基线提升 54%、较 SATCoP 风格基线提升 18%。
针对扩散大语言模型在固定配额评估下数学与代码得分严重下滑(每步 16 token 时全部低于 15%)的问题,研究者提出 RePara,通过组相对策略优化强化短连续 token 块,并降低 rollout 与 log-probability 重算开销。
研究者提出 QRR(Quotient Recurrent Reasoner),一种具有精确逐 token 相位旋转对称性的规范等变循环架构,通过在对称方向上引入旋转自由度,使该方向上的运动不改变商表示且与推理相关动力学动态解耦。QRR 在商空间中实现稳定且更快的解根收敛,不形成主导的慢振荡瓶颈,并在数独、迷宫和 Mini-ARC 上匹配或超越近期循环推理模型。
该论文将宽神经网络的有限样本高斯近似界提升为函数型界:通过细化样本集使其在定义域上稠密,并以逐样本误差度量使常数与样本数无关。对多项式激活函数和任意紧致输入集,在超范数下得到 m^{-1/2} 的收敛速率及显式常数。
LoOPSD 通过搜索模型自身的层执行顺序(重复某些层)构建更强的教师,并将教师的预测优势蒸馏回学生,且每轮用更新后的学生重建教师。在 GSM8K、400 token 思考预算下,该方法将 Qwen3-1.7B 准确率从 42.30% 提升至 79.61%,后续蒸馏轮次还能带来进一步增益。
一项针对 14 个模型、42K 道事实性问题的系统研究发现,所有 LLM 无论规模大小都易受用户观点影响,其中观点表述的自信程度、归属对象以及是否被呈现为用户与模型共有这三点影响最大。与以往研究不同,基于用户专业性或权威性的表述在事实性场景中影响甚微。更大模型更能抵抗错误观点,但从自身错误中恢复的能力并未更强。
针对 LLM 协调器查询多归属方数据表时 fan-out 与 relay 两种策略的取舍,研究在 PeopleJoin 和 BIRD 的 13 个设置、3 个模型族上发现,数据归属而非查询形态决定哪种策略更优:fan-out 在单归属方可答问题上 12 个设置更准,但在涉及两个归属方表连接时最多只答对 4.3%。
研究将块可识别性与构造性因果抽象相连接,证明块对角可逆变换加兼容坐标置换是保持基于这些块构建的每个构造性因果抽象的最大变换类,前提是块与概念的对应关系随表示更新。在加性自编码器的小型合成实验中,高层干预可在独立学习的表示之间迁移并近似保持预期效果。
H-DDCM 用隐式随机 Hadamard 字典替代高斯码本,实现免训练生成式图像与视频压缩,投影与重建仅需 O(d log d) 计算和 O(d) 内存。该框架还提出免查表字典序编码方案,并将方法适配到自回归视频流模型,通过周期性将近期重建帧重编码为新的 KV-cache 前缀,在单 GPU 上实现长时长、接近实时的生成式视频压缩。
针对未知 MDP 中策略是否满足几乎必然可达性,研究证明在无额外信息时既无法学习也无法验证 RSM 证书;但在已知非零转移概率下界 p_min 的温和限制下,可借助采样以 PAC 式保证学习到正确证书。实验显示该 p_min 充分条件虽可靠但偏保守,条件失效时学到的证书在真实 MDP 上往往仍有效。
针对图神经网络中缺失特征沿图边传播的现实场景,研究者形式化了"图结构掩码依赖"这一概念,并发现基于传播的现有方法在该设定下效果与均匀随机缺失时差异显著。为此提出 PEMix,不再传播观测值,而是用全局结构表示对不完整节点特征的概率模型进行条件化,再执行消息传递。在受控图结构缺失与自然缺失实验中,PEMix 在复杂缺失机制下保持稳健,缺失越严重表现越突出。
研究者提出 CaLLM,一个事后多元校准框架,可同时约束 LLM 评委在多个已知或未知群体上的系统性偏见。理论上 CaLLM 能约束所有误差结构可被现有表示捕获的群体偏见,加入显式偏见组还能进一步降低残余偏见,并给出了其提升评委准确率而非牺牲准确率换校准的条件。在成对偏好基准上,CaLLM 降低了指定与未指定偏见组的多元校准误差,同时提升了评委的预测性能。
APT 是一个全自动后训练框架,通过协调三个智能体构建评测集、诊断模型能力短板,并按自适应提示词分布生成强化学习数据,让模型当前表现决定下一轮训练任务,形成递归自我改进式反馈闭环。针对无用户指定评测场景的通用设置,该研究还开发了可生成广泛多样评测集的评测工具。实验表明 APT 在多个基座模型、benchmark 和生成架构上均适用,具备模型无关、benchmark 无关、架构无关且全自动的特性。
该论文探讨机器学习不确定性评估与测量科学之间的概念类比,借鉴计量学从误差方法到 GUM 框架的演进,指出将 ML 不确定性分为偶然与认知两类本质上是模型依赖的,不足以支撑统一评估框架。文章主张借鉴计量学方法,系统识别、量化并传播不确定性贡献,为评估单个预测的可信度提供严谨、一致且可迁移的框架。
研究证明两层纯注意力 Transformer 可实现有限温度形式的 Q-learning,温度 τ>0 控制对贪婪动作选择的近似,τ→0 时退化为 window Q-learning。
研究提出 inLoRA-MINT,基于中间层激活与参数相关信号训练 MINT 分类器,在无需完整访问模型参数的情况下判断样本是否被用于 LoRA 微调。在 Qwen、Phi-4、DeepSeek-V3 和 LLaMA 3.2-3B 四款模型、覆盖医学、数学与学术推理三个数据集上,得分稳定在 95% 至 98%。该方法可用于敏感训练数据审计与数据溯源,并支持隐私与 AI 治理合规。
研究者提出一种湍流感知框架,用于从粗粒化数据重建时间分辨的三维流场,该框架将多尺度神经算子与状态空间模型耦合,并以 Navier-Stokes 残差作为软约束,还引入混合专家机制以无监督适应未知粗粒化方式。在典型湍流系统和大气再分析数据上,该框架相比基于学习和经典基线降低了重建误差,同时更好地保留了多尺度空间结构与相干时间演化。
研究者提出 Prune-and-Merge ViT,一种面向现成模型的免训练 token 压缩框架,结合基于类注意力的剪枝与基于相似度的合并来减少冗余并保留语义信息。在预训练的 ViT 和 DeiT 上,该方法在降低计算量的同时保持了鲁棒性,准确率优于现有 token 缩减方法。作者还引入 RAD 和 PFR 两项指标评估鲁棒性,分析显示混合 token 缩减不会引入类幻觉行为。
一篇 Perspective 提出,机器学习势(MLP)可通过在量子化学方法这一"第三空间"上泛化,实现非经验性地超越其训练方法的精度。作者提出"方法可迁移 MLP"路线,在密度泛函与波函数理论中均有可行实现,证明其可比任一训练方法更准确。该方法有望让通用 MLP 比单方法模型更准确,并将影响训练数据集构建与模型评估。
ChampionKV 是一种输入自适应的按注意力头预算分配器,用于长上下文 KV Cache 压缩,以最大聚合观察窗口注意力分数作为注意力集中度的轻量代理,对注意力分散的头分配更大预算、集中的头分配更小预算。
针对多智能体系统中非前缀 KV Cache 跨智能体复用导致模型性能最多下降 90% 的问题,LatentRemedy 用少量任务条件 latent token 帮助目标智能体在不重算共享块的情况下理解复用上下文,MLP 将目标前缀的最后隐藏状态映射为 latent token 并置于复用 KV 块之后,通过全预填充蒸馏训练。
研究用 Qwen-3 和 Phi-4 在统一竞赛数学协议下评测五种 On-Policy Distillation(OPD)机制,发现当训练仅集中于学生当前做错的题目时,OPD 无法提升准确率,八个配置全部下降,双尾符号检验 p=0.0078。相同流程在不集中于失败题目时准确率提升 4.6 个百分点,说明该失效取决于训练机制而非系统性缺陷。
研究者提出本地契约条件重写机制,为邮件生成 LLM 智能体拦截外发草稿,用本地 Gemma 重写器按信息释放契约改写,并选择性调用最终 PrivacyChecker。
SWEPatchTest 是一个测试生成基准,包含来自 SWE-bench Pro、SWE-bench Multilingual 和 DeepSWE 的 619 个任务及 82,579 个候选补丁,通过联合衡量问题复现、正确补丁接受与错误补丁拒绝来评估测试质量。
针对扩散语言模型(DLM)中随机掩码导致的训练-推理不匹配问题,研究者提出可预测性感知画布选择与监督方法 PACS,用模型自身的可预测性来选择每个样本的注意力可见输入长度,并在参考 token 被置信度引导揭示前对其进行监督。在推理与代码生成基准上,PACS 在对比的 SFT 方法中平均准确率最高,单项基准上较原始 SFT 提升最多 12.84 个百分点。代码将在论文发表后发布。
研究将经验打包与回放(EPR)用于低延迟约束下的深度脉冲神经网络持续学习,结合 Batch Normalization Through Time 稳定的 VGG9 SNN 与 Spike Activation Maps(SAM),把脉冲活动解释聚合为空间注意力图,只回放信息量最大的图像块而非完整图像。
研究者在 400 道 VQA-RAD 是非题、19,200 轮多轮对话中测试四款开源医学 VLM,发现未披露文档为合成时,模型放弃了 80.1% 的 6,488 个正确答案。
研究提出一种购物篮模型,通过学习嵌入向量来表征商品、价格与门店之间的交互关系,并采用基于实际在售商品组合的随机负采样来计算优化损失,以突破商品数量庞大带来的计算瓶颈。在合成数据上,该负采样策略效果优于已有文献方法;模型还在 Fortenova Group 数百万条真实交易数据上完成训练与评估,可用于支持品类管理人员的零售决策。
研究者提出 Virtual Head Attention(VHA),通过 Q Premix 与 Linear Postmix 两个线性操作,同时改善 KV cache 大小、训练与 prefill FLOPs 和模型质量这一"不可能三角"。
FETALFusion 是一种双路径 CNN-Mamba 编码器-解码器,用于跨采集类型的胎儿头部分割,仅在两个最高分辨率阶段应用四方向状态空间扫描,并在测试时平均域特定通道门控。
HaloBlock 是一种面向扩散大语言模型(dLLM)推理的难度感知自适应 halo 机制,通过双向累积熵刻画块解码难度,并在每个块两侧自适应分配双向 halo 区域以缓解边界上下文不连续。在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 上针对数学推理与代码生成基准的评测显示,HaloBlock 在准确率与推理效率上均有一致提升,源代码已公开。
一项临床研究用 AI 增强高光谱成像(HSI)在术中检测低级别胶质瘤,3D CNN 结合光谱与空间特征取得最高中位 ROC-AUC 74.5%,高于纯光谱 XGBoost 的 67.9% 和基于 RGB 的 64.0%。研究在匹配组织位置和相同患者级数据划分下对比 HSI 与 RGB 分类,发现肿瘤区域反射率持续偏低,可能与血红蛋白浓度和氧合差异有关。
MERIT 是一个面向表格图像的三阶段推理框架,将序列化表格作为可选辅助输入,通过表格专用编码器适配、监督微调和强化学习实现证据选择与推理。该框架用重构、定位和颜色条件监督适配编码器,并以证据正确性、计算、最终答案和输出格式分别设置奖励,针对最终答案监督无法区分的检索与计算错误提供中间步骤反馈。研究在表格问答和事实验证任务上评估了该方法,并分析了视觉输入与各训练组件的贡献及跨数据集泛化能力。
针对目标在执行中动态变化、且无显式切换信号的在线链式目标导航,研究者提出记忆分解框架 GLST,将潜在信念拆分为全局-局部空间与长-短时序表示以支持长时程推理,并引入目标条件奖励平衡探索与利用。仿真实验在多种地形上优于基线,Spot 四足机器人真机实验进一步验证了该框架。论文已被 CoRL 2026 接收。
CineMem 是一个面向自回归多镜头视频生成的注意力对齐细粒度记忆检索框架,结合在线记忆组织与查询自适应检索。它提出在线聚簇 KV cache 作为记忆组织策略,并引入查询级检索机制,在固定检索预算下扩大历史信息访问、提升长期记忆利用率。该框架还配套一套 VLM 辅助的镜头间一致性评估指标,实验验证了其有效性。
LinMorph 将 Video DiT 线性化重构为可学习的 softmax-to-linear 权重变换问题,让每个目标 Gated DeltaNet(GDN)参数从预训练的 query、key、value 和 output 投影中联合抽取,而非复制预设对应权重。
研究者提出 PseudoSpec 模板,将功能需求组织为工程规格,发现规格化提示词能大幅降低五个开源权重模型对恶意代码生成的拒绝率,即使保留风险关键词。基于此构建的黑盒红队框架 SpecCloak 在 RedCode-Gen 上对八个目标模型实现平均 28.91% 的执行验证攻击成功率,防御原型 SpecReveal 在提示检测评估中达到 96.88% 的攻击检测率。
DriveWLA 是一个基于 Mixture-of-Transformers(MoT)的世界-语言-动作模型,通过 World、Language、Action 三个专家分别负责未来预测、语义理解与轨迹生成,并引入 Cross-Expert Attention 对齐语义与动态表示。
研究在 UNK-VQA 的 10K 分层子集上系统评估冻结 InstructBLIP 的可回答性信号,涵盖预测不确定性、跨模态对齐、视觉定位、视觉依赖、内部表示与学习探针,测试 AUROC 大多仅 0.50-0.54。
研究将 SHAP 归因应用于 SAE 潜在特征,并以 GPT-2 Small 在 SST-2 情感分类上的直接因果干预为基准进行检验。多数忠实性关联未通过多重比较校正,且相互高度一致的归因方法(ρ=0.42–0.80)与实测因果效应吻合度差。在已知真值的最小对中,归因能较好识别插入的情感信号(AUROC 0.792),却难以定位删除(AUROC 0.520)。
共 2000 篇论文